рефераты конспекты курсовые дипломные лекции шпоры

Реферат Курсовая Конспект

Кодирование в канале

Кодирование в канале - раздел Философия, ТЕОРИЯ ИНФОРМАЦИИ   Ранее Были Определены Операции Кодирования Источников Сообщен...

 

Ранее были определены операции кодирования источников сообщений. Если полученную последовательность сигналов передавать через канал потребителю, то часть сигналов может быть искажена. Чтобы обнаружить и исправить искажения вводится некоторая избыточность информации в передаваемые кодовые комбинации. Процедура введения избыточности в кодовые комбинации называется помехоустойчивым кодированием или кодированием в канале и выполняется кодером канала. Коды, позволяющие исправлять ошибки, называются корректирующими.

Для восстановления первоначального кода служит декодер канала. На рисунке 5.1 приведена модель передачи информации с применением кодера и декодера канала.

 
 

Помехи могут исказить символов в кодовом слове. Если искаженные символы независимы и вероятность искажения одного символа равна , то вероятность ошибки кратности равна

, (5.1)

где - число двоичных символов в передаваемой кодовой комбинации.

Обычно . Из приведённой формулы видно, что наиболее вероятны одиночные ошибки и ошибки малой кратности. Поэтому разрабатывались корректирующие коды, определяющие одиночные ошибки и ошибки кратности 2, 3, 4.

При декодировании принятой кодовой комбинации возникают две проблемы:

- обнаружение ошибки,

- исправление ошибки.

Естественно, что вторая задача включает первую, но они различаются по методам обработки кодовой последовательности и по числу символов, необходимых для обнаружения и исправления ошибок.

Пусть на вход кодера канала поступают - разрядные кодовые комбинации и можно образовать - кодовых комбинаций. На выходе кодера канала получаем - разрядные кодовые комбинации, которые образуют - кодовых комбинаций, ,и они передаются в канал связи. В множестве кодовых комбинаций содержится кодовых комбинаций, которые соответствуют кодовым комбинациям на входе кодера канала. Назовём их разрешёнными кодовыми комбинациями, остальные -- запрещенными (неразрешёнными) кодовыми комбинациями.

Ошибка при декодировании обнаруживается, если декодируемый код попадет в область неразрешённых кодовых комбинаций, рисунок 5.2.

В результате передачи информации на выходе канала связи возможны различные комбинации кодов на входе кодера канала и на выходе канала связи. Их число равно . В число этих комбинаций входят:

- число безошибочных переходов (безошибочного декодирования),

- число переходов в другие (ошибочные) разрешённые кодовые комбинации,

- число переходов в неразрешённые кодовые комбинации. Всего различных вариантов кодовых комбинаций будет

 

++=.

Те кодовые комбинации из разрешённых, которые перешли в область запрещённых кодовых комбинаций, могут быть обнаружены безошибочно.

Доля обнаруженных ошибочных кодовых комбинаций по отношению к общему числу вариантов приема сигналов равна

.

Рассмотрим возможность исправления ошибок. Разобьем все неразрешённые кодовые комбинации на подмножеств. Сопоставим каждому разрешённому коду одно определённое подмножество из области запрещённых кодов. В этом подмножестве должны содержаться коды, указывающие ошибки в принятой кодовой комбинации. Организация этих подмножеств зависит от числа исправляемых ошибок и методов кодирования-декодирования. Доля исправляемых ошибок по отношению к общему числу обнаруживаемых ошибок равна

 

.

Если рассмотреть геометрическую интерпретацию кодов, то кодовые комбинации будут представлять вершины -мерного куба.

Мерой различия двух кодовых комбинаций является кодовое расстояние , равное числу символов, которыми отличаются две кодовые комбинации, и названное расстоянием Хемминга. С геометрической точки зрения кодовое расстояние – это число рёбер многомерного куба, которое необходимо пройти от одной кодовой комбинации к другой.

Пример 5.1. Чтобы найти расстояние Хемминга между двумя кодами необходимо сложить по модулю два обе кодовые комбинации. Число «1» в результате суммирования равно кодовому расстоянию. В приведённом примере =5.

Другим параметром, характеризующим кодовую комбинацию является вес кода – P - число«1» в кодовой комбинации.

Рассмотрим, как влияет кодовое расстояние на обнаружение и исправление ошибок. Положим, d = 1, т.е. все кодовые комбинации являются разрешёнными кодовыми комбинациями. Любая ошибка трансформирует одну кодовую комбинацию в другую.

Увеличим кодовое расстояние на единицу. Если расстояние между кодовыми комбинациями равно 2, то существуют запрещённые кодовые комбинации, т.е. при однократной ошибке, чтобы перейти из одной вершины гиперкуба к другой, на которой расположены разрешённые коды, нужно пройти по двум рёбрам. Но между двумя разрешёнными кодами на вершинах гиперкуба обязательно находится запрещённая кодовая комбинация. И любая однократная ошибка приводит к запрещённой кодовой комбинации, которая обнаруживается декодером.

На рисунке 5.3 изображён трёхмерный куб, на вершинах которого размещены трёхразрядные коды. Разрешёнными кодами являются 000, 011, 101, 110. Остальные коды 001, 010, 100, 111 ‑ запрещённые. Следует обратить внимание:

-‑ минимальное кодовое расстояние для обнаружения одиночной ошибки равно 2,

-‑ число «1» в неразрешённых кодовых комбинациях – нечётное. Поэтому иногда процедуру обнаружения одиночной ошибки называют проверкой на чётность.

В общем случае для обнаружения q кратной ошибки минимальное кодовое расстояние должно удовлетворять неравенству

(5.2)

Для исправления ошибок число проверочных кодов должно быть больше, так как проверяется каждый символ в разрешённой кодовой комбинации на наличие ошибки.

В общем случае для исправления ошибок кратности минимальное кодовое расстояние меду разрешёнными кодовыми комбинациями должно удовлетворять соотношение

(5.3)

Например, если необходимо передать символы «0» и «1» с учётом исправления возникших ошибок, то согласно неравенству (5.3), надо использовать коды с минимальным кодовым расстоянием, равным 3. Наиболее наглядным является использование кодов 000 и 111 для передачи символов «0» и «1», (рисунок 5.4).

В трёхразрядном коде две кодовые комбинации (000, 111) являются разрешёнными. Остальные кодовые комбинации – запрещенные. При наличии однократной ошибки в кодах 000 или 111 декодер обнаруживает их и исправляет.

С точки зрения геометрической интерпретации -разрядный двоичный код расположен на вершинах -мерного куба, представляющих как разрешённые, так и запрещённые кодовые комбинации. Если интерпретировать число исправляемых символов как радиус -мерной сферы, из неравенства (5.3) можно получить условие

,

определяющее подмножество разрешённых комбинаций, находящихся в -мерной сфере радиуса , с кодовым расстоянием, не превышающим .

Для обнаружения всех ошибок кратности и исправления ошибок кратности расстояние между разрешёнными кодовыми комбинациями должно выбираться из условия

. (5.4)

Приведённые формулы получены для исправления независимых ошибок. Они дают завышенные значения минимального кодового расстояния при помехе, коррелированной с сигналом.

Если длительность помехи превышает длительность сигнала, то ошибка возникает подряд в нескольких разрядах передаваемого кода. Ошибки подобного рода называются пачками или пакетами ошибок.

Длиной пачки ошибок называется число, следующих друг за другом символов, левее и правее которых в кодовой комбинации искажённых символов не содержится.

Одной из характеристик корректирующего кода является избыточность кода

, (5.5)

где ‑ число символов на выходе кодера канала,

‑ число символов на входе кодера канала,

- число дополнительных символов, используемых для обнаружения и исправления ошибок.

Определим связь между числом исправляемых символов и длиной разрядного кода для независимых ошибок. Общее число различных исправляемых ошибок для каждой разрешённой комбинации равно ,[Темников, стр. 136]. Каждая из возможных ошибок должна приводить к запрещённой кодовой комбинации, относящейся к подмножеству данной разрешённой комбинации. Таким образом, число кодов, включая разрешённую кодовую комбинацию, будет . Ввиду того, что общее число различных комбинаций -разрядного кода составляет , число разрешённых комбинаций ‑ , то должно выполняться неравенство

. (5.6)

Эта граница была найдена Хеммингом, [**]. Из неравенства (5.6) можно определить число символов , необходимых для исправления не более, чем кратных ошибок:

. (5.7)

Приведенные формулы позволяют оценивать возможности метода кодирования при заданных ограничениях на число символов в кодовой комбинации.

 

– Конец работы –

Эта тема принадлежит разделу:

ТЕОРИЯ ИНФОРМАЦИИ

Мера информации Мера информации по Шеннону Сообщения могут быть... Количество взаимной информации... Дискретный канал передачи информации Рассмотрим...

Если Вам нужно дополнительный материал на эту тему, или Вы не нашли то, что искали, рекомендуем воспользоваться поиском по нашей базе работ: Кодирование в канале

Что будем делать с полученным материалом:

Если этот материал оказался полезным ля Вас, Вы можете сохранить его на свою страничку в социальных сетях:

Все темы данного раздела:

Теорема Котельникова
  Согласно теореме Котельникова, если спектр сигнала ограничен полосой

Квантование сигнала по уровню
  Положим, дискретизация сигналов по времени произведено, и необходимо передавать сигналы в дискретные моменты времени. Можно передавать сигналы, используя амплитудно-импульсную модул

Мера информации по Шеннону
  Сообщения могут быть закодированы разными символами. Число разных символов, из которых образуются сообщения, составляет основание кода, (русский алфавит имеет 33 символа, двоичный к

Энтропия дискретного ансамбля сообщений
Среднее количество информации, содержащееся в ансамбле , определяется математическим ожиданием &nbs

Энтропия непрерывного ансамбля сообщений
  Выше мера информации была введена для дискретного ансамбля сообщений. Точно так же вводится мера информации на непрерывном ансамбле. Непрерывная случайная величина

Энтропия непрерывного ограниченного ансамбля
  Энтропия ансамбля после квантования была записана как

Дискретный канал передачи информации
  Рассмотрим модель канала передачи информации  

Непрерывный канал передачи информации
  Непрерывный канал передачи информации описывается одномерными и двумерными плотностями распределений вероятностей. Чтобы записать количество взаимной информации между входом и выход

Кодирование источника информации
  Источник информации может быть составлен из различных элементов. В частности это могут

Метод кодирования равномерным кодом
  Чтобы уменьшить избыточность, содержащуюся в ансамбле X источника информации, создается новый ансамбль Y символов, энтропия которой близка к максимальному значению. За

Метод кодирования Шеннона-Фано
  При кодировании по методу Шеннона следует придерживаться следующих правил. 1. Все сообщения

Метод кодирования Хафмана
  Правило образования кодов состоит из следующих пунктов. 1. Все сообщения ансамбля

Независимых сообщений.
  При заданном ансамбле из N независимых сообщений с энтропией

Канал связи
Под каналом связи понимается среда, в которой перемещается сигнал. В зависимости от типа сигнала каналы разделяются на непрерывные и дискретные. Предполагается, что сигнал, передаваемый по

Пропускная способность канала связи
Ввиду того, что канал связи считается стационарным, на вход канала поступает последовательность символов ,

Канал без шумов
Шум в канале связи искажает физические параметры сигнала, что в свою очередь приводит к искажению символов. Вероятностная характеристика искажений – это условная вероятность

Канал с шумами
  Наличие шума в канале связи приводит к тому, что условная энтропия не равна нулю. Условную

Непрерывный канал связи
  Как и прежде, сигналы поступают в канал в дискретные моменты времени, но значения сигналов принимают непрерывные значения из некоторого множества. Примером такого канала является пе

Частотно ограниченного канала
  Передача информации тесно связана с использованием физических сигналов. Свойства сигналов определяют канал связи. Известно, сигнал может быть представлен во времени и через спектрал

Знак равенства будет в том случае, когда значения сигнала распределены по нормальному закону.
  Согласно определению пропускной способности  

Систематические коды
  Для передачи информации используются разнообразные методы кодирования, зависящие от требований к восстанавливаемой информации, а также от свойств линий передачи информации. На рисун

Образование систематического кода
Обычно для построения кодов необходимо знать длину кодовой комбинации , кратность обнаруживаемых ошибок

Систематический код Хемминга
Соотношение между числом информационных символов , числом исправляемых ошибок

Циклические коды
  Циклические коды являются разновидностью систематических кодов. Они получили широкое распространение из-за простоты кодирования и декодирования. Все разрешённые кодовые комбинации п

Обнаружение однократной ошибки
  Циклический код относится к классу систематических кодов. Ранее было показано, что при обнаружении одиночной ошибки минимальное кодовое расстояние равно

Исправление однократной ошибки
Исправление одиночной ошибки связано с определением разряда, в котором произошла ошибка. Это производится на основании анализа остатков от деления многочленов ошибок

Хотите получать на электронную почту самые свежие новости?
Education Insider Sample
Подпишитесь на Нашу рассылку
Наша политика приватности обеспечивает 100% безопасность и анонимность Ваших E-Mail
Реклама
Соответствующий теме материал
  • Похожее
  • Популярное
  • Облако тегов
  • Здесь
  • Временно
  • Пусто
Теги