Русская Википедия:Рекурсивный МНК

Содержание

Текст

Текст

Текст

Текст

Текст

Текст

Текст

Текст

Текст

Шаблон:Нет ссылок Рекурсивный или рекуррентный метод наименьших квадратов (МНК) (Шаблон:Lang-en) — применяемая в эконометрике итеративная процедура оценки параметров регрессионной модели. Данный метод применяется при мультиколлинеарности факторов (в этом случае матрица <math>X^TX</math> близка к вырожденной и при её обращении могут возникнуть большие вычислительные неточности). Также получающиеся в результате применения рекурсивного МНК (рекурсивные остатки) используются при тестировании стабильности параметров модели.

Описание метода

В данном методе вместо обращения плохо обусловленной матрицы <math>X^TX</math> производится расчет матрицы <math>W_t</math> согласно следующей рекуррентной формуле:

<math>W_t=W_{t-1}-\frac {W_{t-1}x_tx^T_tW_{t-1}} {1+x^T_tW_{t-1}x_t}~,~~t=k+1,...,n</math>

То есть на каждом шаге вместо обращения производится деление на число. Для «запуска» процедуры нужно задать начальное значение матрицы.

Параметры модели оцениваются согласно следующему рекуррентному соотношению:

<math>\hat{b}_{t}=\hat{b}_{t-1}+(y_t-x^T_t \hat{b}_{t-1})W_tx_t</math>

Выражение в скобках представляет собой ошибку прогноза на один период. Известно, что дисперсия ошибки такого прогноза будет равна <math>\sigma^2 (1+x^T_tW_{t-1}x_t)</math>, где <math>\sigma^2</math> — дисперсия случайных ошибок модели (предполагается классическая регрессионная модель). Для выравнивания дисперсии дисперсий ошибок прогнозов ошибки прогноза делят на квадратный корень из <math>1+x^T_tW_{t-1}x_t</math>. Полученные величины и называют обычно рекурсивными остатками:

<math>w_t=\frac {y_t-x^T_t \hat{b}_{t-1}}{\sqrt{1+x^T_tW_{t-1}x_t}}</math>

Если регрессионная модель правильная (то есть соответствует моделируемой зависимости) и выполняются классические предположения, то полученные рекурсивные остатки являются независимыми случайными величинами с нулевым математическим ожиданием и постоянной дисперсией — <math>iid(0,\sigma^2)</math>. Это позволяет использовать их для тестирования стабильности параметров модели.

См. также

• CUSUM-тест
• Метод наименьших квадратов