Оговоримся, что разрядная сетка машины имеет постоянное число разрядов - n.
При представлении чисел с фиксированной запятой считают, что запятая всегда находится перед старшим разрядом, а все числа, которые участвуют в вычислениях, считаются по абсолютной величине меньше единицы:
|X| < 1
Введём две характеристики чисел: диапазон изменения и точность представления.
Диапазон изменения характеризуется теми пределами, в которых могут находиться числа, с которыми оперирует машина.
Отличное от нуля самое малое число
Таким образом, диапазон чисел, с которыми работает ЭВМ, есть:
|X|min |X| |X|max
2-n |X| 1 - 2-n
Иными словами, числа, которые выходят за диапазон изменения, в ЭВМ не могут быть представлены точно. Если
X| < |X|min = 2-n,
то такое число воспринимается как нуль .
Если:
|X| > |X|max = 1- 2-n,
то такое число воспринимается как бесконечно большое .
Этим двум случаям соответствуют понятия машинного нуля и машинной бесконечности.