ИНФОРМАЦИОННАЯ ЕМКОСТЬ ДИСКРЕТНОГО СИГНАЛА (СООБЩЕНИЯ). ФОРМУЛА ШЕННОНА.

Уровень шумов (помех) не позволяет точно определить амплитуду сигнала и в этом смысле вносит некоторую неопределенность в значение отсчетов сигнала. Если бы шума не существовало, то число дискретных уровней сигнала было бы бесконечным. Величина шума определяет степени различимости отдельных уровней амплитуды сигнала. Максимально возможное число уровней (состояний) N сигнала в одной выборке из-за наличия шума равно

N=, где

- средняя мощность сигнала;

- средняя мощность шума;

Если число уровней (состояний) системы в одной выборке (на один отсчет) равно N, то это равносильно информации, даваемой i битами (Формула Хартли).

N=2ⁱ; log₂N=ilog₂2; log₂N=i; i=log₂N; i=log₂

Из теоремы Котельникова следует, что на интервале длительности передачи сообщения t_s непрерывный сигнал с ограниченным спектром можно заменить последовательностью из 2F_m.t_s его дискретных значений. Поэтому информационная емкость дискретного сигнала (сообщения) за время передачи составит

(бит)

- длительность передачи сообщения;

- максимальная частота из передаваемого спектра частот;

- частота выборок по Котельникову;

- количество выборок по Котельникову за время передачи сообщения;

- максимально возможное число уровней N сигнала в одной выборке из-за наличия шума;

- средняя мощность сигнала равна квадрату амплитуды сигнала;

- средняя мощность шума равна квадрату амплитуды шума.

Информационные возможности сигнала возрастают с расширением спектра его частот и превышением уровня сигнала над уровнем помех.