Тема 5. Информационные аспекты изучения систем

Понятие сигналов, сигналы в системах. Типы сигналов: гармонические сигналы, модулированные сигналы, периодические сигналы, сигналы с ограниченной энергией, сигналы ограниченной длительности, сигналы с ограниченной полосой частот. Ансамбль реализации. Свойства сигналов. Случайный процесс. Классы случайных процессов: непрерывные и дискретные; стационарные и нестационарные; эргодические и неэргодические. Математические модели случайных процессов.

Информация как свойство материи. Энтропия и понятие неопределенности. Свойства энтропии как меры неопределенности. Сообщения и количество информации. Контекстные зависимости в сообщениях. Основные результаты теории информации. Скорость передачи и пропускная способность.

 

Рис.5.1.

 

Стационарные и нестационарные процессы. Так называются процессы в зависимости от постоянства или изменчивости их статистических характеристик. Случайный процесс называется стационарным в узком смысле, если для любого n конечномерные распределения вероятностей не изменяются со временем, т.е. при любом выполняется условие

.

Если же условие независимости от времени выполняется только для первых двух моментов (среднего и функции автокорреляции), то процесс называется стационарным в широком смысле (или в смысле Хинчина).

Эргодические и неэргодические процессы. На практике при описании случайных величин вместо рассмотрения их распределений часто ограничиваются только их числовыми характеристиками, обычно моментами. В тех случаях, когда распределение неизвестно, моменты (и другие числовые характеристики) можно оценить статистически.

Перенос такой практики на произвольные случайные процессы требует не только учета зависимости отстоящих друг от друга ("разнесенных") во времени значений, но и наложения дополнительных требований. Требование совпадения величин, получающихся при усреднении по ансамблю (т.е. при фиксированном времени) и при усреднении по времени (точнее, по одной реализации), и называется условием эргодичности. Это требование можно толковать и как совпадение результатов усреднения по любой реализации. Как и для стационарности, можно различать эргодичность в узком и широком смысле.

Таким образом, подводя итог, можно сказать, что случайный процесс может служить математической моделью сигнала. Необходимо только следить за тем, чтобы конкретные особенности изучаемых сигналов были корректно отображены в свойствах случайного процесса.