Русская Википедия:Тест отношения правдоподобия

Содержание

Текст

Текст

Текст

Текст

Текст

Текст

Текст

Текст

Текст

Тест отноше́ния правдоподо́бия (Шаблон:Lang-en) — статистический тест, используемый для проверки ограничений на параметры статистических моделей, оценённых на основе выборочных данных. Является одним из трёх базовых тестов проверки ограничений наряду с тестом множителей Лагранжа и тестом Вальда.

Сущность и процедура теста

Пусть имеется эконометрическая модель с вектором параметров <math>b</math>. Необходимо проверить по выборочным данным гипотезу <math>H_0 \colon ~g(b)=0</math>, где <math>g</math> — совокупность (вектор) некоторых функций параметров. Идея теста основана на сравнении функций правдоподобия для длинной модели (без ограничений) и короткой модели (с ограничениями). Оказывается, что следующая простая статистика отношения правдоподобия

<math>LR=2(l_L-l_S)=2\ln \frac {L_L}{L_S},</math>

где <math>l_L, ~l_S</math> — значения логарифмической функции правдоподобия длинной и короткой моделей, соответственно, при нулевой гипотезе имеет (возможно асимптотически) распределение <math>\chi^2(q)</math> — распределение хи-квадрат с <math>q</math> степенями свободы, где <math>q</math> — это количество ограничений. Поэтому, если значение статистики больше критического значения этого распределения при заданном уровне значимости, то ограничения отвергаются, и предпочтение отдаётся длинной модели. В противном случае предпочтение отдаётся короткой модели.

Частный случай

В случае, если случайные ошибки модели являются <math>iid \; N(0,\sigma^2)</math>, то можно показать, что

<math>LR=n \ln \frac {ESS_S}{ESS_L}.</math>

В частности, при проверке значимости регрессии <math>ESS_S=TSS</math>, следовательно

<math>LR=n \ln \frac {TSS}{ESS}=n\ln \frac {1}{1-R^2}=-n\ln (1-R^2).</math>

Взаимосвязь с другими тестами

Доказано, что тест Вальда (W), тест отношения правдоподобия (LR) и тест множителей Лагранжа (LM) — асимптотически эквивалентные тесты (LM = LR = W). Тем не менее, для конечных выборок значения статистик не совпадают. Для линейных ограничений доказано неравенство <math>LM \leqslant LR \leqslant W</math>. Тем самым тест отношения правдоподобия занимает некоторое среднее положение по частоте отвержения нулевой гипотезы по сравнению с тестами множителей Лагранжа и тестом Вальда. В случае нелинейных ограничений первая часть неравенства выполняется, а вторая — вообще говоря, нет.

Вместо LR-теста можно проводить асимптотический F-тест, статистика которого выражается через LR-статистику следующим образом <math>F=\frac {n-k}{q}(e^{LR/n}-1)</math>.

Литература

• Шаблон:Книга
• Шаблон:Книга