рефераты конспекты курсовые дипломные лекции шпоры

Реферат Курсовая Конспект

Математическая модель дискретного канала передачи информации.

Математическая модель дискретного канала передачи информации. - раздел Философия, Дисциплина Теория информации Тема №8. Дискретные каналы без памяти и передача информации Простейшим Примером Взаимодействия Двух Дискретных Источников Без Памяти Явля...

Простейшим примером взаимодействия двух дискретных источников без памяти является двоичный симметричный канал (ДСК). Он является дискретной двоичной моделью передачи информации по каналу с аддитивным белым гауссовским шумом (АБГШ).

Такая модель успешно применяется для моделирования канала связи методом Монте-Карло и для расчетов при проверке эффективности алгоритмов помехоустойчивого кодирования.

Двоичный симметричный канал описывается с помощью диаграммы переходов, где представляются возможные переходы двоичных символов (0,1) источника Х в двоичные символы источника Y.

 

 
 

 


Каждому переходу приписана переходная вероятность, причем считают, что при передаче двоичной информации по каналу ошибка происходит с вероятностью ε.

Значит ошибочным переходам соответствует вероятность ε, а правильным переходам - вероятность (1-ε)

Эквивалентом диаграммы переходов является матрица канала. Она содержит переходные вероятности и является стохастической матрицей, у которой сумма всех элементов каждой строки равна 1.

Матрица канала с входным алфавитом, состоящим из M символов xi и выходным алфавитом, состоящим из N символов yi, содержит все переходные вероятности и имеет вид:

=

 

Для дискретного двоичного симметричного канала матрица будет иметь вид:

 

 

Из симметрии переходов следует, что равномерное распределение символов на входе канала влечет за содой равномерное распределение символов выходных символов.

Запишем условные и взаимные информации всех возможных пар событий, предполагая равномерное распределение входных символов. Тогда для ДСК будут имеем:

 

, бит

 

, бит

 

, бит

 

, бит

 

Отсюда следует, что:

 

, бит

, бит

, бит

, бит

 


 

Рассмотрим три особых случая:

1. ε=0, т.е. передача информации происходит без ошибок.

. Других взаимных информаций не существует, т.к. пары взаимных символов никогда не могут появиться. Следовательно, информация передается от источника Х к источнику Y без потерь.

2. ε=1/2, т.е. имеет место ошибка передачи символа по каналу. Тогда все =0, бит. Таким образом, источники Х и Y независимы и не передачи информации не происходит.

3. ε=1. В этом случае или какие-то вероятности перепутаны, или мы где-то полностью заблуждаемся. Обнаружив этот факт и проинвертировав принятые символы символы , мы придем к первому случаю.

 

Поведение условной и взаимной информаций в ДСК как функций вероятности ошибки ε, можно представить графиком:

 

 
 

 


Заметим, что сумма условной I(y1/x1) и взаимной I(x1;y1) информаций не зависит от ε и всегда равна 1 биту.

 

Описание канала с помощью переходных вероятностей, в конечном счете, сводится к совместным вероятностям пар событий:

 

 

 

 


Используя уже известные нам понятия энтропий

– равенство в случае независимых источников

 

И считая, что взаимная информация – это среднее значение информации, которым обмениваются два источника без памяти X и Y.

 

канал передачи информации наглядно удобно представить диаграммой информационных потоков:


 

 
 

 


С точки зрения теории информации, канал является источником шумов (помех).

 

Рассмотрим пример передачи информации по двоичному симметричному каналу (ДСК).

Здесь,

 

Будем считать, что вероятность появления символа хi равна p, и вероятность ошибки его передачи по каналу равна ε, тогда

, ,

,

, .

 

Очевидно, что взаимная информация I(X;Y), переданная по ДСК зависит от двух параметров ε и p.

Результаты вычислений I(X;Y) можно представить в виде семейства кривых I(X;Y)=f(p) при заданных значениях ε.

 

 
 

 

 


Кроме рассмотренной модели на практике часто используют модель двоичного симметричного канала со стиранием (ДСКС). Для такой модели характерно то, что алфавит выходных символов отличается от алфавита входных символов.

На входе, как и ранее, символы х1 и x2, а на выходе канала фиксируется состояние, при котором сигнал с равным основанием может быть отнесен как к единице, так и к нулю. На месте такого символа ставится дополнительный символ стирания «е» (Erasure – eng.).

Модель такого канала имеет вид:

 

 
 

 


ε – вероятность ошибки принятого символа

q – вероятность символа стирания

(1-ε-q) –вероятность безошибочного приема

При декодировании значительно легче исправить такие символы «е», чем ошибочно принятые. При малых вероятностях ошибки ε, выбором оптимальных областей стираний в ДСКС можно достичь существенно больших пропускных способностей, чем в обычных двоичных каналах.

 

– Конец работы –

Эта тема принадлежит разделу:

Дисциплина Теория информации Тема №8. Дискретные каналы без памяти и передача информации

Тамбовский государственный технический университет... Кафедра Информационные системы... Дисциплина Теория информации...

Если Вам нужно дополнительный материал на эту тему, или Вы не нашли то, что искали, рекомендуем воспользоваться поиском по нашей базе работ: Математическая модель дискретного канала передачи информации.

Что будем делать с полученным материалом:

Если этот материал оказался полезным ля Вас, Вы можете сохранить его на свою страничку в социальных сетях:

Все темы данного раздела:

Скорость передачи информации и пропускная способность канала.
Характеризуя дискретный канал, используют два понятия скорости: техническая и информационная. Под технической скоростью передачи RT, называемой также скоростью манипуляци

Теоремы Шеннона о кодировании для канала передачи информации.
Для эффективного использования канала (повышения коэффициента нагрузки λ→1) необходимо его согласование с источником информации на входе. Такое согласование возможно как для каналов без

Хотите получать на электронную почту самые свежие новости?
Education Insider Sample
Подпишитесь на Нашу рассылку
Наша политика приватности обеспечивает 100% безопасность и анонимность Ваших E-Mail
Реклама
Соответствующий теме материал
  • Похожее
  • Популярное
  • Облако тегов
  • Здесь
  • Временно
  • Пусто
Теги