Исходными данными для данной лабораторной работы являются результаты статистической обработки текста, выполненной в предыдущей лабораторной работе. Из лабораторной работы «Определение количества информации, содержащегося в сообщении» для данной работы необходимо взять:
1) список символов данного текста;
2) оценку вероятностей появления символов в тексте;
3) значение энтропии источника.
Расчеты рекомендуется выполнять в табличной форме, используя MS Excel.
1. Отсортировать символы в порядке убывания их вероятности появления в тексте.
2. Построить один из возможных вариантов по правилу Шеннона-Фано для посимвольного кодирования заданного текста.
3. Определить энтропию и среднее количество двоичных разрядов, необходимых для передачи текста при использовании эффективных кодов.
4. Проверить возможность однозначного декодирования полученных кодов, рассмотрев пример передачи слова, состоящего из не менее 10 символов.