Допустим, что в принятом сигнале <math>r(t)</math> может присутствовать или отсутствовать сигнал <math>s(t,\lambda)</math>, то есть принимаемый сигнал <math>r(t)</math> равен [1] <math>r(t)=\alpha s(t,\lambda)+n(t)</math>,
где случайная величина <math>\alpha</math> может принимать значения 0 (сигнал отсутствует) или 1 (сигнал присутствует); <math>s(t,\lambda)</math> — наблюдаемый на интервале наблюдения [<math>0, T</math>] детерминированный сигнал. При решении задачи обнаружении сигнала необходимо определить наличие сигнала <math>s(t,\lambda)</math> в <math>r(t)</math>, то есть оценить значение параметра <math>\alpha</math>. При этом возможны два варианта. Априорные данные — вероятности <math>p_p</math><math>_r(t,\alpha=0)</math> и <math>p_p</math><math>_r(t,\alpha=1)</math> — могут быть известны или нет.
Сформулированная задача обнаружения сигнала является частным случаем общей задачи статистической проверки гипотез [1] . Гипотезу об отсутствии сигнала будем обозначать <math>H_0</math>, а гипотезу о наличии сигнала — <math>H_1</math>.
Если априорные вероятности <math>P_{pr}(H_0)</math> и <math>P_{pr}(H_1)</math> известны, то можно использовать критерий минимума среднего риска (байесовский критерий) <math>R</math>:
где {<math>Q_{ik}</math>} — матрица потерь, а <math>W(x|H_i )</math> — функция правдоподобия выборки наблюдаемых данных, если предполагается истинность гипотезы <math>H_i</math>.
В этом случае, если априорные вероятности <math>P_{pr}(H_0)</math> и <math>P_{pr}(H_1)</math> неизвестны, то с пороговым значением <math>h_0</math> сравнивается отношение правдоподобия <math>l_0</math>:
где E — энергия сигнала, а N — односторонняя спектральная плотность гауссовского аддитивного белого шума. Если <math>l_0>h_0</math>, то принимаете гипотеза о наличии сигнала, иначе о его отсутствии на интервале наблюдения [<math>0, T</math>].
Если априорные вероятности <math>P(H_0)</math> и <math>P(H_1)</math> известны, то решение о наличии сигнала принимается на основе сравнения отношения апостериорных вероятностей <math>l_1</math> с некоторым пороговым значением <math>h_1</math> [1] :
