Дисциплина Теория информации Тема №4: Оптимальное эффективное кодирование источников
Министерство образования и науки РФ
Тамбовский государственный технический университет
Кафедра Информационные системы
Дисциплина Теория информации
Тема №4: Оптимальное (эффективное) кодирование источников.
Лекции №№6-8
специальность 230201 «Информационные системы и технологии»
3 курс
Преподаватель: проф. Дидрих Валерий Евгеньевич
4.1. Понятие кодирования. Кодовое дерево.
В процессе кодирования каждая буква исходного алфавита представляется… ,
Для любого дискретного источника без памяти X с конечным алфавитом и энтропией H(X) существует D-ичный префиксный код, в котором средняя длинна…
Таким образом задача сжатия данных есть минимизация технических затрат на хранение или передачу информации путем оптимального кодирования. На… 1.Сжатие без потерь - устранение избыточности информации, не связанное с ее… 2. Сжатие с потерями – устранение избыточности информации, которое приводит к безвозвратной потере некоторой доли…
Пример: Провести эффективное кодирование ансамбля из восьми букв (знаков).
Буква xi
Вероятности pi
Кодовая…
Буквы алфавита сообщения выписываются в порядке убывания вероятностей. Две последние буквы объединяют в один составной знак, которому приписывают… Затем строится кодовое дерево из точки, соответствующей вероятности 1, причем… Пример 1 (ПЗ№8):
Хотелось бы иметь такой алгоритм кодирования, который позволял бы кодировать… Одним из таких алгоритмов является арифметическое кодирование, представленное в 70-х годах XX века.
Алгоритм LZ77 разработан израильскими математиками Авраамом Лемпелом и Якобом Зивом.
Одной из причин популярности алгоритма LZ, является их исключительная простота… LZ77 использует уже просмотренную часть сообщения как словарь. Чтобы добиться сжатия он пытается заменить очередной…
Наибольшую степень сжатия дают двухпроходные алгоритмы, которые последовательно сжимают два раза исходные данные, но они соответственно и работают… Большинство программ-архиваторов сжимают каждый файл по отдельности, но…
1.Полноцветная графика.
2. Звук.
3. Видеоинформация.