Дисциплина Теория информации Тема №4: Оптимальное эффективное кодирование источников

Министерство образования и науки РФ

Тамбовский государственный технический университет

Кафедра Информационные системы

 

Дисциплина Теория информации

Тема №4: Оптимальное (эффективное) кодирование источников.

Лекции №№6-8

специальность 230201 «Информационные системы и технологии»

3 курс

Преподаватель: проф. Дидрих Валерий Евгеньевич

Тамбов 2010

4.1. Понятие кодирования. Кодовое дерево. В процессе кодирования каждая буква исходного алфавита представляется… ,

Теорема кодирования источников. Неравенство Крафта. Префиксный код.

Для любого дискретного источника без памяти X с конечным алфавитом и энтропией H(X) существует D-ичный префиксный код, в котором средняя длинна…  

Методы оптимального кодирования. Сжатие данных.

Таким образом задача сжатия данных есть минимизация технических затрат на хранение или передачу информации путем оптимального кодирования. На… 1.Сжатие без потерь - устранение избыточности информации, не связанное с ее… 2. Сжатие с потерями – устранение избыточности информации, которое приводит к безвозвратной потере некоторой доли…

Метод кодирования Шеннона - Фано.

Пример: Провести эффективное кодирование ансамбля из восьми букв (знаков).   Буква xi Вероятности pi Кодовая…  

Метод кодирования Хаффмана.

Буквы алфавита сообщения выписываются в порядке убывания вероятностей. Две последние буквы объединяют в один составной знак, которому приписывают… Затем строится кодовое дерево из точки, соответствующей вероятности 1, причем… Пример 1 (ПЗ№8):

Арифметическое кодирование.

Хотелось бы иметь такой алгоритм кодирования, который позволял бы кодировать… Одним из таких алгоритмов является арифметическое кодирование, представленное в 70-х годах XX века.

Алгоритм универсального кодирования методом Лемпела-Зива.

Алгоритм LZ77 разработан израильскими математиками Авраамом Лемпелом и Якобом Зивом. Одной из причин популярности алгоритма LZ, является их исключительная простота… LZ77 использует уже просмотренную часть сообщения как словарь. Чтобы добиться сжатия он пытается заменить очередной…

Особенности программ-архиваторов.

Наибольшую степень сжатия дают двухпроходные алгоритмы, которые последовательно сжимают два раза исходные данные, но они соответственно и работают… Большинство программ-архиваторов сжимают каждый файл по отдельности, но…  

Сжатие с потерями.

1.Полноцветная графика. 2. Звук. 3. Видеоинформация.