Принцип максимального правдоподобия

Данный принцип используется в тех случаях, когда известен только условный закон распределения результатов наблюдений относительно состояния E исследуемого объекта.

Пусть случайная величина имеет плотность распределения , а результаты наблюдения над величиной представляют собой простую (повторную) случайную выборку

.

Вероятность появления конкретной реализации X_<n> пропорциональна элементу вероятности распределения случайного вектора :

.

(2.3.2)

Плотность распределения для простой выборки представляется выражением

.

Функция оцениваемого состояния E вида

(2.3.3)

называется функций правдоподобия.

Принцип максимального правдоподобия состоит в утверждении, что при данной реализации X_<n> вектора наиболее правдоподобным, т.е. наиболее близким к действительному состоянию, является то значение оценки состояния исследуемого объекта, при котором вероятность (2.3.2), а следовательно, и функция правдоподобия (2.3.3) максимальны.

Исходя из данного утверждения, для определения наиболее правдоподобного значения состояния E необходимо найти такое значение , которое обеспечивает экстремум функции правдоподобия. Если оценивается несколько параметров E₁, E₂,…,E_k какого-либо состояния, то решение данной задачи сводится к нахождению корней системы уравнений

, . (2.3.4)

Выражения (2.3.4) представляют собой необходимое условие экстремума функции многих переменных, которое заключается в равенстве нулю всех частных производных данной функции.

Решение уравнений (2.3.4) даёт оценки исследуемых параметров, которые называются оценками максимального правдоподобия.

Таким образом, принятие решения в соответствии с принципом максимального правдоподобия заключается в следующем. На основе выборки X_<n> определяются значения функции правдоподобия для всех возможных состояний E_i, . Среди данных состояний выбирается то, которое обеспечивает максимум функции правдоподобия.