Отношение функций правдоподобия

 

принято называть отношением правдоподобия.

Для выбора гипотезы H₁, или Н₀ должно быть взято за основу определенное правило принятия решений.

Выбор правила принятия решения в математическом отношении сводится к оптимальному разбиению пространства принимаемых сигналов V на области u₁ и u₀.

Для того чтобы выбрать то или иное правило принятия решения, необходимо руководствоваться определенными критериями.

Критерий максимума правдоподобия. Этот критерий формулируется следующим образом: наиболее правдоподобно то значение параметра X, для которого функция правдоподобия L(X) максимальна.

В соответствии с этим критерием в случае двухальтернативной ситуации обнаружения сигнала сравнивается два значения функции правдоподобия – L(x₁) и L(х₀) и принимается та гипотеза, которой соответствует большее значение функции правдоподобия. Если, например, L(х₁) > L(x₀), то принимается гипотеза Н₁. Если же L(х₁) ≤ L(x₀), то принимается гипотеза H₀.

Этот критерий можно записать в следующем виде через отношение правдоподобия:

если

если .

Таким образом, в соответствии с данным критерием методика принятия решения сводится к следующему: вычисляются функции правдоподобия L(х₁) и L(х₀), определяется отношение правдоподобия λ и в зависимости от того, больше, равно или меньше λ единицы, принимается соответствующая гипотеза.

Практическое достоинство данного критерия заключается в том, что при его применении не требуется знание априорных вероятностей p(х₁) и р(х₀) сигнала X.

Критерий максимума апостериорной вероятности. По этому критерию при полученном значении выборки Y принимается та гипотеза, при которой апостериорная вероятность р(X/Y) максимальна.

Для случая двухальтернативной ситуации сравниваются два значения апостериорной вероятности: р(х₁/Y) и р(х₀/Y). Обычно рассматривается отношение этих величин и правило принятия решения записывается в виде:

 

Используя формулу Байеса, выразим отношение апостериорных вероятностей через отношение функций правдоподобия:

. (3.2)

Тогда критерий максимума апостериорной вероятности (3.2) может быть следующим образом выражен через отношение правдоподобия:

(3.3)

Соотношение (3.3) можна представить в виде:

 

где λ₀ – пороговое значение отношения правдоподобия.

Таким образом, процедура принятия решения согласно критерию максимума апостериорной вероятности такая же, как и согласно критерию максимума правдоподобия. Отличие заключается лишь в том, что в первом случае отношение правдоподобия сравнивается с единицей, а во втором случае – с отношением априорных вероятностей р(х₀)/р(х₁). При наличии априорных данных р(х₁) и р(х₀) целесообразно применять критерий максимума апостериорной вероятности, так как при этом есть возможность пользоваться дополнительной информацией, позволяющей точнее решить задачу обнаружения сигнала.

Следует отметить, что критерий максимума правдоподобия является оптимальным с информационной точки зрения. Действительно, с точки зрения теории информации наиболее вероятным следует считать то значение параметра X, относительно которого в принятом сиг­нале Y содержится наибольшее количество информации. Взяв разность количеств информации, содержащихся в сигнале Y относительно х₁ и х₀, получим:

 

Таким образом, информационный критерий принятия решения сводится к определению двоичного логарифма отношения правдоподобия. Если этот логарифм положителен, то принимается гипотеза Н₁ о том, что Х= х₁; если он отрицателен или равен нулю, то принимается гипотеза Н₀ о том, что Х = х₀.

Критерий идеального наблюдателя (критерий Котельникова). Согласно данному критерию принимается та гипотеза, при которой обеспечивается минимум общей ошибки принятия решения.

При решении задачи обнаружения сигнала могут иметь место ошибки двух родов:

1. При отсутствии полезного сигнала вектор принятого сигнала Y оказывается в области u₁ и принимается в соответствии с этим гипотеза H₁.

2. При наличии полезного сигнала вектор Y оказывается в области u₀ и принимается гипотеза Н₀.

Первая ошибка называется ошибкой первого рода, или «ложной тревогой». Вторая ошибка называется ошибкой второго рода, или «пропуском сигнала». Количественно ошибки первого и второго родов оцениваются условными вероятностями α и β ошибочных решений о наличии полезного сигнала, когда в действительности он отсутствует, и об отсутствии сигнала, когда в действительности он имеется:

 

Общая безусловная вероятность ошибочного решения определяется выражением

(3.4)

Критерий идеального наблюдателя минимизирует общую ошибку, определяемую выражением (3.4).

Следовательно, условие оптимального решения по критерию идеального наблюдателя имеет вид:

(3.5)

Подставим в (3.4) из (3.5) значение ошибок первого и второго родов:

(3.6)

Ошибку второго рода можно представить в виде

 

Условие (3.5) будет обеспечено, если интеграл в (3.6) будет максимален. А для этого нужно выбрать область u₁, чтобы подынтегральная функция была положительной, т.е.

. (3.7)

Условие (3.7) определяет принадлежность вектора Y области u₁, т.е. выбор гипотезы Н_1, перепишем (3.7) в виде

 

Таким образом, правила решения, соответствующие критериям идеального наблюдателя и максимума апостериорной вероятности, совпадают. Отличие заключается лишь в исходных условиях.

Критерий Неймана – Пирсона. Данный критерий основан на том, что ошибки первого и второго родов неодинаково опасны, причем ошибка первого рода приводит к таким последствиям, что ее вероятность необходимо ограничить некоторой очень малой величиной. Вторую ошибку желательно при этом обеспечить минимальной.

Исходя из этого, критерий Неймана – Пирсона можно сформулировать следующим образом: наилучшим решением является такое, при котором обеспечивается наименьшая вероятность ошибки второго рода при заданной допустимой вероятности ошибки первого рода.

Итак, согласно критерию Неймана–Питерсона должно быть обеспечено

 

при

 

где ε – наперед заданная величина.

Задача отыскания экстремума может быть решена методом Лагранжа.

Для упрощения задачи целесообразно перейти от многомерной переменной Y к одномерной переменной λ, что можно осуществить с помощью равенств:

 

При таком переходе областям u₁ и u₀ в пространстве V соответствуют области [0 –λ₀] и [λо – ∞] значений λ.

Условные вероятности ошибок первого и второго родов будут при этом представлены в виде:

 

 

Тогда для отыскания условного экстремума должна быть составлена вспомогательная функция

 

Взяв производную и приравняв ее нулю, получим:

(3.8)

или

 

Но из (3.8)

 

и, следовательно,

 

Таким образом, данный критерий будет справедлив при λ = λ₀, где пороговое значение λ₀ определяется из равенства:

ε.

Итак, правило принятия решения согласно критерию Неймана – Пирсона может быть записано в виде:

 

Критерий минимального риска (критерий Байеса). Этот критерий учитывает не только неравнозначность ошибок первого и второго родов, но и те последствия, к которым приводят эти ошибки. Для учета этих последствий введены весовые коэффициенты (коэффициенты цены ошибок) r₁₀ и r_01, приписываемые соответственно ошибкам первого и второго родов.

Усредненная величина

(3.9)

получила название риска.

В соответствии с критерием минимального риска правило выбора решения формулируется следующим образом: принимается та гипотеза, при которой обеспечивается минимальный риск:

.

Представим (3.9) в виде:

(3.10)

Минимум выражения (3.10) будет при условии, если подынтегральная функция положительная:

 

Отсюда получаем правило принятия решения:

 

Рассматриваемый критерий наиболее целесообразен экономически, так как обеспечивает минимизацию потерь, обусловленных ошибками в принятии решений. Но он требует максимальной априорной информации, ибо помимо функций распределения ω(Y/X) и априорных вероятностей р(X) необходимо также знание весовых коэффициентов r₁₀ и r_01.

Минимаксный критерий. Минимаксный критерий представляет собой специальный случай критерия минимального риска, когда априорные вероятности р(х₁) и р(х₀) не заданы.

Дело в том, что риск r, получающий наименьшее значение, зависит от априорных вероятностей р(х₁) и р(х₀). При определенном соотношении этих вероятностей, который мы называем наихудшим, риск r будет максимален.

Идея минимаксного критерия заключается в том, что обеспечивается минимум риска при наихудшем соотношении априорных вероятностей.

Для определения наихудшего соотношения между р(х₁) и р(х₀) необходимо приравнять нулю производную от правой части (3.10) по р(х₁) (или по р(х₀)). В результате получается трансцендентное уравнение, обеспечивающее максимум риска. Затем определяется пороговое значение отношения правдоподобия:

,

где р*(х₀) и р*(х₁) – наиболее неблагоприятные значения априорных вероятностей р(х₀) и р(х₁), полученные из условия

Таким образом, правило принятия решения для всех рассмотренных критериев одинаково и сводится к сравнению отношения правдоподобия λ с пороговым значением λ₀. Отличие заключается лишь в величине λ₀. Для наглядности значения λ₀ для отдельных критериев сведены в табл.3.1.