За единицу количества информации принимается такое количество информации, которое содержит сообщение, уменьшающее неопределенность в два раза. Такая единица называется «бит». Произошло от английского словосочетания binary digit (двоичная цифра).
Бит – количество информации, необходимой для различения двух равновероятных сообщений, наименьшая «порция» памяти, необходимая для хранения одного из двух знаков «0» и «1», используемых для внутримашинного представления данных и команд.
В примере с монетой количество информации, которое мы получаем, равно 1 биту.
Бит – это минимальная единица измерения количества информации. Следующей по величине единицей является байт.
1 байт = 8 бит.
В информатике система образования кратных единиц измерения количества информации отличается от систем, принятых в большинстве наук. Международная система единиц СИ в качестве множителей кратных единиц использует коэффициент 10n, где n = 3,6,9 и так далее, что соответствует десятичным приставкам Кило (103), Мега (106), Гига (109) и так далее.
В компьютере используются числа не в десятичной, а в двоичной системе исчисления, поэтому в кратных единицах измерения количества информации используется коэффициент 2n. Кратные байту единицы измерения количества информации выводятся следующим образом:
1 Килобайт (Кбайт) = 1024 байт = 210 байт;
1 Мегабайт (Мбайт) = 1024 Кбайт = 220 байт;
1 Гигабайт (Гбайт) = 1024 Мбайт = 230 байт;
1 Терабайт (Тбайт) = 1024 Гбайт = 240 байт;
1 Петабайт (Пбайт) = 1024 Тбайт = 250 байт.
Существует формула, которая связывает между собой количество возможных равновероятных (как в случае подбрасывания монеты) событий N и количество информации I:
I = log2N. (2.1)
По этой формуле легко определить количество информации, если известно количество возможных событий. Наоборот, для определения количества равновероятных событий, если известно количество информации, необходимо решить уравнение:
N = 2I. (2.2)
Пример.
1. Пусть изображение на экране содержит 128х64 точек и каждая точка может иметь один из 256 оттенков. Определить минимальный объем памяти, необходимый для хранения этого изображения.
Решение. Всего точек на экране 128*64 = 8192. Каждый цвет можно рассматривать как возможное состояние точки. Тогда количество цветов, отображаемых на экране монитора, может быть вычислено по формуле (2.1):
I = log2 256 = 8 бит.
Необходимый объем памяти равен
8 бит * 8192 = 65536 бит = 8192 байт = 8 Кбайт.
2. В игре «крестики-нолики» на поле 8х8 перед ходом существует 64 возможных события. Определить количество информации, полученное вторым игроком после первого хода первого игрока.
Решение. Уравнение (2.2) принимает вид:
64 = 2I.
Так как 64 = 26, то получаем 26 = 2I.
Таким образом, I = 6 бит, то есть количество информации, полученное вторым игроком после первого хода первого игрока, составляет 6 бит.