n | Q( n. P ) | ||
P = 0.90 | p = 0.95 | p = 0.99 | |
0.89 | 0.94 | 0.99 | |
0.68 | 0.77 | 0.89 | |
0.56 | 0.64 | 0.76 | |
0.48 | 0.56 | 0.70 | |
0.43 | 0.51 | 0.64 | |
0.48 | 0.55 | 0.68 | |
0.44 | 0.51 | 0.64 | |
0.41 | 0.48 | 0.60 |
Щоб знайти середнє значення абсолютної похибки, виконуюють такі обчислення:
- розраховують дисперсію значень вимірюваного параметра ( рівняння (5, 5а));
- розраховують стандартне відхилення (рівняння (6)).
(5)
(5a)
n –1 = f – ступінь свободи.
(6)
Величинуsxще називають «середньоквадратичне відхилення»або «середньоквадратична похибка».
Коли відомі середнє значення і дисперсія, можна використати більш строгий підхід до виявлення грубих помилок – «промахів». Розраховють з вибірки експериментальних значень виміряного параметра значення β критерію для xk = xmax, xmin або X1, Xn з ранжированого ряду.
.(7)
де, α = 1−P – імовірність отримати «промах»;
Розраховане значення порівнюють із теоретичним значенням (див. таблицю 2).
У випадку, коли сумнівне значення параметра признається похибкою, його виключають із вибірки і по n-1 значенням обчислюють нові значення середнього, дисперсії та стандартного відхилення.
Використовуючи середнє значення і стандартне відхилення формують інтервал (довірчий інтервал) значень навколо середної величини, який з заданою наперед імовірністю (P = 0,95; 0,99 ) накриває дійсне значення вимірюваного параметра. При розрахунках граничних значень довірчого інтервалу використовують рівняння (8):
(8)
Значення t (P, n – 1) наведено в таблиці 3. Цей критерій називають «t-критерій Стьюдента». «Стьюдент» – псевдонім англійського математика Госсета.