Правила обчислення похибок

Похибка звичайно виражають однією значущою цифрою і лише при особливо відповідальних вимірюваннях – двома. Похибки вимірювання указують, які цифри є сумнівними в числовому значенні зміряної величини. Оскільки точність визначення фізичної величини визначається вимірюванням, а не обчисленням, те округлення числового значення результату вимірювання проводиться до цифри того ж порядку, що і значення похибки.

При округленні результатів вимірювань необхідно пам'ятати наступні правила наближених обчислень.

1. Зайві цифри у цілих чисел замінюються нулями, а у десяткових дробів відкидаються.

Наприклад,

Y = 123 357 ± 678 (до округлення);

Y = 123 400 ± 700 (після округлення),

2.Якщо замінювана нулем або відкидана цифра старшого розряду менше 5, то цифри, що залишаються, не змінюються, а якщо вказана цифра більше 5, то остання цифра, що залишається, збільшується на одиницю:

Наприклад,

Y = 237,46 ± 0,13 (до округлення);

Y = 237,5 ± 0,1 (після округлення).

3. Якщо замінювана нулем або відкидана цифра рівна 5 (з подальшими нулями), то округлення проводиться так: остання цифра в закругленому числі залишається без зміни, якщо вона парна, і збільшується на одиницю, якщо вона непарна.

Наприклад,

Y = 237.465 ± 0.127 (до округлення);

Y = 237.46 ±0.13 (після округлення),

Y = 237.5 ± 0.1 (після округлення).

При представленні остаточних результатів фізичних вимірювань часто застосовують запис числових значень у вигляді десяткового дробу, помноженого на необхідний ступінь числа десять.

Наприклад, числа 3106; 0.0285; 0.120 записуються так: ; ; . Швидкість світла 300 000 км/с звичайно записують як км/с.