Русская Википедия:Метод обратного преобразования

Материал из Онлайн справочника
Перейти к навигацииПерейти к поиску

Файл:Inversion method2.svg
Ме́тод обра́тного преобразова́ния.

Ме́тод обра́тного преобразова́ния (Преобразование Н. В. Смирнова) — способ генерации случайных величин с заданной функцией распределения, путём модификации работы генератора равномерно распределённых чисел.

Описание алгоритма

Пусть <math>F(x)</math> является функцией произвольного распределения. Покажем как, имея генератор выборки из стандартного непрерывного равномерного распределения, получить выборку из распределения, задаваемого функцией распределения <math>F(x)</math>.

Строго возрастающая функция распределения

Если функция <math>F:\mathbb{R}\to [0,1]</math> строго возрастает на всей области определения, то она биективна, а следовательно имеет обратную функцию <math>F^{-1}:[0,1]\to \mathbb{R}</math>.

  • Пусть <math>U_1,\ldots ,U_n \sim U[0,1]</math> — выборка из стандартного непрерывного равномерного распределения.
  • Тогда <math>X_1,\ldots, X_n</math>, где <math>X_i = F^{-1}(U_i),\; i=1,\ldots, n</math>, — выборка из интересующего нас распределения.

Пример

Пусть требуется сгенерировать выборку из экспоненциального распределения с параметром <math>\lambda > 0</math>. Функция этого распределения <math>F(x) = 1 - e^{-\lambda x}</math> строго возрастает, и её обратная функция имеет вид <math>F^{-1}(x) = -\frac{1}{\lambda} \,\ln ( 1 - x )</math>. Таким образом, если <math>U_1,\ldots, U_n</math> — выборка из стандартного непрерывного равномерного распределения, то <math>X_1, \ldots, X_n</math>, где

<math>X_i = -\frac{1}{\lambda}\ln (1-U_i),\; i=1,\ldots,n</math>

— искомая выборка из экспоненциального распределения.

Неубывающая функция распределения

Если функция <math>F:\mathbb{R} \to [0,1]</math> лишь не убывает, то её обратная функция может не существовать. В таком случае необходимо модифицировать приведённый выше алгоритм.

  • Пусть <math>U_1,\ldots ,U_n \sim U[0,1]</math> — выборка из стандартного непрерывного равномерного распределения.
  • Тогда <math>X_1,\ldots, X_n</math>, где <math>X_i = \inf\{x \mid F(x) = U_i\} = \min\{x \mid F(x) = U_i\},\; i=1,\ldots, n</math>, — выборка из интересующего нас распределения. Равенство точной нижней грани минимуму выполняется ввиду непрерывности функции распределения справа, что означает, что точная нижняя грань достигается.

Замечания

  • Если <math>F(x)</math> строго возрастает, то <math>F^{-1}(u) = \inf\{x \mid F(x) = u\}</math>. Таким образом, модифицированный алгоритм для произвольной функции распределения включает в себя отдельно разобранный случай строго возрастающей функции распределения.
  • Несмотря на кажущуюся универсальность, данный алгоритм имеет серьёзные практические ограничения. Даже если функция распределения строго возрастает, вычислить её обратную не всегда просто, особенно если она не задана в виде элементарной функции, как, например, в случае нормального распределения. В случае функции распределения общего вида чаще всего необходимо численно находить точную нижнюю грань, что может быть очень трудоёмко.

Математическое обоснование

Файл:Generalized inversion method.svg
Математическое обоснование.

Пусть <math>U\sim U[0,1]</math>, то есть <math>F_U(u) = u,\; u\in [0,1]</math>. Рассмотрим функцию распределения случайной величины <math>X = \inf\{x \mid F(x) = U\}</math>.

<math>\mathbb{P}(X\leq x) = \mathbb{P}(\inf\{x' \mid F(x') = U\} \leq x) = \mathbb{P}(U \leq F(x)) = F_U(F(x)) = F(x)</math>.

То есть <math>X</math> имеет функцию распределения <math>F(x)</math>.

См. также

Литература

Вадзинский Р.Н. Справочник по вероятностным распределениям. - СПб.: Наука, 2001, 295 с.