Густина розчинів фосфорної кислоти у воді при 20 °С.

Концентрація Н3Р04, %          
Густина, кг/м3 998,2 1053,2 1113,4 1180,5 1254,0

 

 

При округленні чисел слід дотримуватися наступних правил:

- якщо перша цифра, що відкидається, менше п'яти, то останню цифру залишають незмінною (12,345 округляють до 12,3);

- якщо перша цифра, що відкидається, більше чи дорівнює п'яти, а наступні цифри більше нуля, то останню цифру збільшують на одиницю (12,367 округляють до 12,4; 12,352—до 12,4);

- якщо цифра, що відкидається, дорівнює п'яти, і за нею випливають тільки нулі, то число округляють до найближчого парного значення (12,350 округляють до 12,4; 12,450 - до 12,4).

У всіх цих прикладах передбачалося, що сумнівною є перша цифра за комою.

В цілих числах цифри, що випливають за першою сумнівною, замінюють нулями (наприклад, швидкість світла у вакуумі n = 299 792 500 м/с).

Інтерполяцією називають визначення значення функції, що знаходиться між виміряними її значеннями; вона може бути аналітичною чи графічною.

Тоді, коли без великої похибки можна вважати, що функція у лінійно змінюється між двома сусідніми значеннями х, для інтерполяції використовують метод пропорційних частин. Функцію у, що відповідає даному значенню аргументу х, що лежить між двома табличними значеннями x1 , у1 і х2 , у2 обчислюють за формулою:

У загальному випадку слід скласти емпіричне рівняння у = f(x) за виміряним значенням уі по цьому рівнянню обчислити шукане значення у.

Досить часто використовують надійний графічний спосіб. За табличними даними креслять на міліметровому папері криву у= f (х) у масштабі, що дозволяє врахувати останню значущу цифру вимірюваної величини. По кривій знаходять значення у, що відповідає будь-якому значенню х.

Екстраполяцією називають значення у, яке відповідає деякому х, що лежить поза межами досліджених даних; екстраполяція може бути аналітичною і графічною. Точність екстраполяції (особливо при значному її інтервалі) невелика, однак, у деяких випадках постулюють чи теоретично обґрунтовують застосування цього способу.