Информация

 

Снятая неопределенность (с точки зрения человека)	Последовательность знаков (с точки зрения техники)
Содержательный подход	Алфавитный подход
Количественная оценка содержания неопределенности в сообщении	Подсчет количества символов в сообще­нии с учетом информационного веса одного символа
Вычисление информации: 2i = N или I = 1оgгN где I — количество информации, Л'— количество равновероятных со­бытий. I = 1о&2(1/р), р = п/N, где I — количество информации, р — вероятность события (чем меньше вероятность события, тем больше количество информации в со­общении об этом событии), п n - количество произошедших событии, N— количество возможных событий. Если события равновероятны (и=1), то р = 1/N	Вычисление информации: I = k * i, I = 1оg2N где I — количество информации в сим­вольном сообщении, к — количество равновероятных сим­волов в сообщении, /' — информационный вес одного символа (символы появляются с одинаковой частотой), N— мощность алфавита. 1=к*1оgг(1/p) где к — количество определенных симво­лов, р — частота появления данного символа. Один символ двоичного алфавита (N = 2) несет / бит информации
Сообщение, уменьшающее неопределен­ность в 2 раза, содержит 1 бит информации	Бит — это минимальная единица измерения информации, представленной в компьютере двоичным знаком