Для оценки точности результатов измерений применяют формулу Гаусса
, (3.1)
где – сумма квадратов погрешностей измерений;
n – число измерений.
Истинная погрешность результата измерения вычисляется по формуле:
, (3.2)
где l – результат измерения;
a – истинное значение измеряемой величины.
Оценка точности определения самой погрешности m (СКП самого СКП)
, (3.3)
Предельную погрешность измерения вычисляют по формуле
, (3.4)
где – коэффициент, принимающий значения в соответствии с выбранной доверительной вероятностью. Для вероятности Р = 0,997 коэффициент = 3, поэтому следует применять формулу в виде .