Русская Википедия:Винеровское оценивание

Содержание

Текст

Текст

Текст

Текст

Текст

Текст

Текст

Текст

Текст

Винеровское оценивание — задача нахождения импульсной характеристики линейной стационарной системы, дающей на выходе оптимальную в смысле минимума математического ожидания средней квадратической ошибки оценку значений полезного сигнала, поступающего на вход в аддитивной смеси с шумом.

Условия

Требуется найти импульсную характеристику <math>w(t)</math> линейной стационарной системы, на вход которой поступает аддитивная смесь <math>f(t)</math> полезного сигнала <math>y(t)</math> с шумом <math>e(t)</math>: <math>f(t) = y(t) + e(t)</math>, а на выходе должна получаться оценка значения полезного сигнала <math>d(t) = \int_{-\infty}^{+\infty}w(\tau)f(t-\tau)d\tau</math>, которая минимизирует математическое ожидание средней квадратической ошибки между оценкой и реальным значением полезного сигнала <math>\epsilon^{2} (t)=m_{1} \left \{ (y(t) - d(t))^{2} \right \}</math>.

Предполагается, что условия применения, характер сигналов и помех остаются достаточно стабильными, их статистические характеристики меняются мало. Если же условия переменны и помехи в процессе работы систем изменяются существенно, то возникает необходимость автоматической оптимизации параметров систем. Это осуществляется в различного рода экстремальных, адаптивных, обучаемых системах.

Решение задачи

Ошибка системы равна разности между оценкой <math>d(t)</math> и реальным значением <math>y(t)</math> полезного сигнала <math>e(t)=d(t)-y(t)</math>. Минимальная среднеквадратическая ошибка по определению равна:

<math>\eta=\overline{e^{2}}=\overline{d^{2}}-2\,\overline{d\,y}+\overline{y^{2}}</math> =

<math>\overline{d^{2}}-2\int_{-\infty}^{+\infty} w(\tau)\overline{f(t-\tau)d(t)} \, \mathrm{d}\tau + \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}w(\xi)w(\mu)\overline{f(t-\xi)f(t-\mu)}\, \mathrm{d}\xi\, \mathrm{d}\mu</math> =

<math>\overline{d^{2}}-2\int_{-\infty}^{+\infty} w(\tau)\rho_{fd}(\tau) \mathrm{d}\tau+\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}w(\xi)w(\mu)\rho_{ff}(\xi-\mu) \,\mathrm{d}\xi \,\mathrm{d} \mu</math>.

Здесь используются обозначения для корреляционных функций:

<math>\rho_{fd}(\tau)=\overline{f(t)\,d(t+\tau)}</math>

<math>\rho_{ff}(\tau)=\overline{f(t)\,f(t+\tau)}</math>.

Черта над формулой означает осреднение по времени. Будем считать, что оптимальная импульсная характеристика системы существует и равна <math>w_\text{opt}</math>.

Тогда любая отличающаяся от неё импульсная характеристика системы может быть представлена в виде

<math>w(t) = w_\text{opt}(t)+\alpha\,\theta(t)</math>,

где <math>\theta(t)</math> — произвольная функция времени, <math>\alpha</math> — варьируемый коэффициент.

Минимум среднеквадратической ошибки отклонения достигается при <math>\alpha=0</math>. Для поиска <math>w_\text{opt}(t)</math> нужно найти производную показателя качества <math>\eta</math> по коэффициенту вариации <math>\alpha</math> и приравнять её нулю при <math>\alpha=0</math>:

<math>\frac{\partial\eta}{\partial\alpha}|_{\alpha=0}</math> =

<math>-2\int_{-\infty}^{+\infty}\theta(\tau)\,\rho_{fd}(\tau)\, \mathrm{d}\tau+\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty} \left[w_\text{opt}(\xi)\,\theta(\mu) + w_\text{opt}(\mu)\,\theta(\xi)\right] \,\rho_{ff}(\xi-\mu) \,\mathrm{d}\xi \,\mathrm{d}\mu</math> =

<math> -2\int_{-\infty}^{+\infty}\theta(\xi)\rho_{fd}(\xi)\,\mathrm{d}\xi + 2 \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}\theta(\xi)\, w_\text{opt}(\mu)\,\rho_{ff}(\xi-\mu)\,\mathrm{d}\xi\, \mathrm{d} \mu</math> =

<math>2\int_{-\infty}^{+\infty} \theta(\xi)\, \left[\int_{-\infty}^{+\infty}w_\text{opt}(\mu)\rho_{ff}(\xi-\mu)\mathrm{d}\mu- \rho_{fd}(\xi) \right]\, \mathrm{d}\xi = 0</math>

Поскольку <math>\theta(\xi)</math> — произвольная функция, последнее равенство выполняется тогда и только тогда, когда:

<math>\int_{-\infty}^{+\infty} w_\text{opt}(\mu)\, \rho_{ff}(\xi-\mu)\, \mathrm{d}\mu-\rho_{fd}(\xi)=0</math>.

Это и есть уравнение Винера-Хопфа, определяющее оптимальную импульсную характеристику системы по критерию минимальной среднеквадратической ошибки. Для решения применим преобразование Лапласа к полученному уравнению. Известно, что преобразование Лапласа от свертки равно произведению преобразований Лапласа, тогда:

<math>w_\text{opt}(p)S_{ff}(p)-S_{fd}(p)=0</math>,

где <math>w_\text{opt}(p)=L{w_\text{opt}(t)}</math>; <math>S_{ff}(p)=L{\rho_{ff}(t)}</math>; <math>S_{fd}(p)=L{\rho_{fd}(t)}</math>.

Таким образом определяем оптимальный винеровский фильтр 1-го рода:

<math>W_\text{opt I}= \frac{S_{fd}(p)}{S_{ff}(p)}</math>.

Когда порядок полинома в числителе оказывается выше порядка полинома в знаменателе, винеровский фильтр 1-го рода физически нереализуем. Для решения задачи, после определения импульсной характеристики её принудительно приравнивают нулю при отрицательных значениях <math>t </math> (именно отличие <math>w(t) </math> от нуля при <math>t<0 </math> характеризует физическую нереализуемость системы) и таким образом получают физически реализуемый винеровский фильтр 2-го рода.

История

Во время Второй мировой войны перед американским математиком Н. Винером встала задача отделения полезного сигнала от шума при решении задач автоматизации систем противовоздушной обороны, использующих радиолокационную технику. В 1942 г. Н. Винер теоретически решил эту задачу, допустив, что искомая система должна быть линейной с постоянными параметрами, время наблюдения бесконечно, входной и выходной сигналы системы являются стационарными и стационарно связанными случайными процессами, и система минимизирует среднюю квадратическую ошибку между полезным входным и выходным сигналами. Были созданы и опробованы экспериментальные аналоговые устройства, использующие этот метод, но по ряду причин применить их в реальных системах ПВО не удалось.

См. также

• Уравнение Винера — Хопфа

Литература

• Норберт Винер «Я-математик», М., «Наука», 1964, гл 12 «Годы войны. 1940—1945», с. 213—265;
• Хургин Я. И. «Да, нет или может быть…», 2-е изд., М., «Наука», 1983, 208 с., илл., 32.81 Х98 УДК 62-50 ББК 32.81 6Ф0.1, тир. 100000 экз., гл. «Искусство надежды», с. 138—148;
• Л. А. Вайнштейн, В. Д. Зубаков «Выделение сигналов на фоне случайных помех», М., «Советское радио», 1960, 447 с., гл. 1 «Основные понятия теории фильтрации случайных процессов», с. 7-54;
• Дж. Бендат «Основы теории случайных шумов и её применения», М., «Наука», 1965, 464 стр. с илл., гл. 4 «Оптимальное линейное упреждение и фильтрация», с. 165—215;
• Левин Б. Р. «Теоретические основы статистической радиотехники. Книга вторая», М., «Советское радио», 1968, 502 стр. с илл., гл. 4 «Фильтрация случайных процессов», с. 278—319;