Результат измерения (или ) не принадлежит заданному распределению (то есть отягощен грубой погрешностью или промахом) с заданной вероятностью , если
,
где – доверительный коэффициент (табл. 8.4)
или, другими словами, если выходит за границы интервала .
Для нормального распределения обычно выбирают , для которой , поэтому в этом случае критерий известен под названием «правило трех сигм». Вероятность отклонения «нормального» результата наблюдения за указанные границы в этом случае равна малой величине .
Аналогичным образом можно сформулировать данный критерий и для других распределений. Для распределений, обладающих, в отличие от нормального, границами, следует выбирать . В этом случае вероятность появления результатов наблюдений за границами распределения равна нулю.
Таблица 8.4 – Значения для разных распределений
Закон распределения | Доверительный коэффициент |
Арксинуса | |
Равномерное | |
Треугольное (Симпсона) | |
Нормальное | |
Лапласа |
Недостаток критерия – он справедлив для количества наблюдений , для которого можно считать, что и .