Нехай задане дійсне точне число А. Число а називається наближеним числом до А, якщо воно мало відрізняється від А і може замінити його в обчисленнях.
Якщо а<А - наближене з недостачею.
Якщо а>А – наближене з надлишком.
Означення: абсолютною похибкою наближеного числа а називається
(1)
Якщо точне число відоме, то його абсолютну похибку легко обчислювати, але на практиці частішими є випадки коли ==============, тому розглядають оцінку .
Означення: граничною абсолютною похибкою наближеного числа а називається будь-яке число, яке задовольняє нерівність:
(2)
(3)
(4)
За вибирають найменше, яке задовольняє (2).
Означення: відносною похибкою наближеного числа а називається величина
(5)
Означення: граничною відносною похибкою називається будь-яке з чисел яке задовольняє нерівність
(6)
за граничну абсолютну похибку приймають:
(7), або (8)
як правило відносна похибка записується в %.
§3