Теорема Байеса (или формула Байеса) – это одна из основных теорем теории вероятностей, которая позволяет определить вероятность того, что произошло какое-либо событие (гипотеза) при наличии лишь косвенных тому подтверждений (данных), которые могут быть неточны.
Формула названа в честь ее автора - Томаса Байеса. Его работа «An Essay towards solving a Problem in the Doctrine of Chances» была опубликована в 1763 году, через 2 года после смерти автора.
,
где:
P(A) — априорная вероятность гипотезы A (смысл такой терминологии см. ниже);
P(A|B) — вероятность гипотезы A при наступлении события B (апостериорная вероятность);
P(B|A) — вероятность наступления события B при истинности гипотезы A;
P(B) — вероятность наступления события B.
Однако, психологические эксперименты показали, что люди при оценках вероятности игнорируют различие априорных вероятностей (ошибка базовой оценки), и потому правильные результаты, получаемые по теореме Байеса, могут очень отличаться от ожидаемых.
Следствие теоремы Байеса является формула полной вероятности: .
Она служит для вычисления вероятности наступления события B, зависящего от ряда гипотез Ai, если известны степени достоверности этих гипотез (например, измерены экспериментально);
Пример:
Два стрелка подбрасывают монетку и выбирают, кто из них стреляет по мишени (одной пулей). Первый стрелок попадает по мишени с вероятностью 1, второй стрелок — с вероятностью 0,00001. Можно сделать два предположения об эксперименте: и . Априорные (a'priori — «до опыта») вероятности этих гипотез одинаковы: .
Рассмотрим событие . Известно, что
Поэтому вероятность пуле попасть в мишень
Предположим, что событие произошло. Какова теперь апостериорная (a'posteriori — «после опыта») вероятность каждой из гипотез ? Очевидно, что первая из этих гипотез много вероятнее второй (а именно, в раз). Действительно,