В дальнейшем предполагается, что для решения задачи оценки параметров сигналов используется та же выборка входных колебаний, что и при решении задачи обнаружения. Все исходные предпосылки о статистике входных сигналов, введенные при рассмотрении алгоритмов обнаружения, остаются в силе.
Универсальным критерием качества решения задач оптимального оценивания параметров является критерий минимума среднего риска. Для скалярного параметра, а средний риск R(a) определяется соотношением:
,
где – функция риска (потерь), характеризующая плату за ошибку в ситуации , где – оценка параметра – совместная плотность распределения вероятности (ПРВ) ситуации . Оптимизация решения состоит в минимизации среднего риска путем выбора оценки , где U – в общем случае вектор выборок входного процесса.
Среди множества предложенных функций риска наибольшее распространение получила квадратичная функция , где с=const. Оптимальная оценка параметра в этом случае вычисляется по формуле:
, (5.37)
где – апостериорное распределение оцениваемого параметра после приема выборки U.
Алгоритм (5.37) сложен в реализации и обычно не применяется на практике.
Кроме квадратичной, используется простая функция потерь, записываемая в виде:
,
где – дельта функция.
Оптимальная оценка при простой функции потерь находится по максимуму апостериорной ПРВ оцениваемого параметра:
,
т. е. из решения уравнения
,
получение и решение которого не вызывает труда, если известна априорная информация о ПРВ оцениваемого параметра .
Однако, в большинстве случаев априорное распределение информационных параметров является неизвестным, и при синтезе измерителей его приходится принимать равномерным. В этом случае, представляя
,
где называется функцией правдоподобия оцениваемого параметра, оптимальную оценку находят из решения уравнения:
,
которое называется уравнением правдоподобия, а сама оценка получила название оценки максимального правдоподобия.
Оценки максимального правдоподобия являются несмещенными, состоятельными и асимптотически эффективными. Метод их нахождения чрезвычайно прост. Это позволяет с успехом использовать метод максимального правдоподобия в большинстве задач оценивания параметров сигналов и данных.
В математической статистике при весьма общих предположениях доказано, что дисперсия оценки максимального правдоподобия, полученной на основе N–мерной выборки входного процесса, не менее некоторой нижней границы, которая для случая несмещенной оценки одного параметра определяется неравенством Крамера–Рао:
, (5.38)
где М – знак математического ожидания.
Если в выражении (5.38) достигается равенство при некоторой оценке , то такая оценка называется эффективной, а ее дисперсия минимальной, характеризующей потенциальную точность оценивания параметра .
В заключение отметим, что в уравнение правдоподобия и неравенство Крамера-Рао, вместо функции правдоподобия можно подставить хорошо известную статистику – отношение правдоподобия ,так как плотность распределения вероятности помехи не зависит от параметра .