Абсолютная погрешность представления чисел

Абсолютная погрешность вычислений DN это разность между истинным значением числа N и его значением полученным после машинного отображения, операций и .др. т.е. N_m

Например: двоичное число +11,00111000111 при n = 16 и K_Ф=2^k, k=6, тогда N_m = 0.000011001110001 [последние два разряда 11 - потеряны]. Переведя в десятичные числа, получим

N = 11,00111000111 = 3,2221678

N_m =0.000011,001110001 = 3,2207031

DN = N – N_m = 3,2221678 – 3,2207031 = 0,0014647

Правило. Максимальная погрешность DN для чисел формата с фиксированной запятой не превышает единицы младшего разряда сетки.