Русская Википедия:Функция потерь Хьюбера

Материал из Онлайн справочника
Перейти к навигацииПерейти к поиску

Функция потерь Хьюбера — функция потерь, используемая в устойчивой регрессии, которая менее чувствительна к выбросам, чем квадратичная ошибка.

Определение

Файл:Huber loss.svg
Функция потерь Хьюбера (зеленый, <math>\delta=1</math>) и квадратичная функция потерь (синий) как функция от <math>y - f(x)</math>

Функция потерь Хьюбера задает штраф за процедуру оценки. Хьюбер (1964) описал её как кусочную функцию вида:[1]

<math>

L_\delta (a) = \begin{cases}

\frac{1}{2}{a^2}                   & \text{для } |a| \le \delta, \\
\delta (|a| - \frac{1}{2}\delta),  & \text{иначе.}

\end{cases} </math>

Эта функция квадратична для малых значений Шаблон:Mvar, и линейна для больших значений, с одинаковым значением и уклоном для различных участков двух точек где <math>|a| = \delta</math>. Переменную Шаблон:Mvar часто рассматривают как остаток, т.е как разницу между наблюдаемым и предсказанным значением <math>a = y - f(x)</math>, поэтому исходное определение может быть расширено до[2]:<math> L_\delta(y, f(x)) = \begin{cases}

\frac{1}{2}(y - f(x))^2                   & \text{для } |y - f(x)| \le \delta, \\
\delta\, |y - f(x)| - \frac{1}{2}\delta^2 & \text{иначе.}

\end{cases} </math>

Примечания

Шаблон:Примечания

Шаблон:ВС

  1. Шаблон:Статья
  2. Шаблон:Cite webШаблон:Cite web Compared to Hastie et al., the loss is scaled by a factor of ½, to be consistent with Huber’s original definition given earlier.