(по книге: Ашмарин И. В. Статистические методы в микробиологическом исследовании./ И. В. Ашмарин, А. А. Воробьев – Л.: Медгиз, 1962. – 160 с.)
Если полученная (расчетная) величина отношения ³величине табличного отношения, то проверяемое значение переменной является выскакивающей вариантой; и её следует исключить из всех последующих операций по статистической обработке результатов исследования.
При этом a=0,01 — высокий уровень достоверности; a=0,05 — может быть грубая ошибка при исключении выскакивающего значения; a>0,05 — отбрасывать проверяемое значение нельзя.
| N | a=0,05 | a=0,01 | ||||
| Отношения | Отношения | |||||
| I а | I б | I в | I а | I б | I в | |
| II а | II б | II в | II а | II б | II в | |
| 0,941 | 1,000 | 1,000 | 0,988 | 1,000 | 1,000 | |
| 0,765 | 0,955 | 0,967 | 0,889 | 0,991 | 0,992 | |
| 0,642 | 0,807 | 0,845 | 0,780 | 0,916 | 0,929 | |
| 0,560 | 0,689 | 0,736 | 0,698 | 0,805 | 0,836 | |
| 0,507 | 0,610 | 0,661 | 0,637 | 0,740 | 0,778 | |
| 0,468 | 0,554 | 0,607 | 0,590 | 0,683 | 0,710 | |
| 0,437 | 0,512 | 0,565 | 0,555 | 0,635 | 0,667 | |
| 0,412 | 0,477 | 0,531 | 0,527 | 0,597 | 0,632 | |
| 0,392 | 0,450 | 0,504 | 0,502 | 0,566 | 0,603 | |
| 0,376 | 0,428 | 0,481 | 0,482 | 0,541 | 0,579 | |
| 0,338 | 0,381 | 0,430 | 0,438 | 0,486 | 0,522 | |
| 0,300 | 0,334 | 0,372 | 0,391 | 0,430 | 0,464 | |
| 0,281 | 0,309 | 0,347 | 0,367 | 0,400 | 0,434 | |
| 0,260 | 0,283 | 0,322 | 0,341 | 0,369 | 0,402 |
Примечания к таблице критических значений:
1. Отношения Iпредназначены для оценки выскакивающих наибольших значений; отношения II— для оценки выскакивающих наименьших вариант.
2. a— вероятность ошибки при принятии решении. Эта величина характеризует уровень достоверности или значимости вывода. Сопряженная с ней величина р — доверительная вероятность или вероятность того, что мы не ошиблись и приняли правильное решение. Вместе эти две величины являются полным набором событий: р + a = 1,00. В психологии принято принимать решения на двух уровнях достоверности (значимости): a= 0,005 или р= 0,95 — меньший уровень достоверности и a= 0,01 илир = 0,99 — высокий уровень значимости выводов.