рефераты конспекты курсовые дипломные лекции шпоры

Раздел Полиграфия
/
Формула Шеннона

Реферат Курсовая Конспект

Выберите учебное заведение

Формула Шеннона

Формула Шеннона - раздел Полиграфия, Лекция 3. Формулы Шеннона и Хартли. Расчёт количества Информации. Кодирование символьных, графических и звуковых данных. Структуры данных В Общем Случае, Энтропия H И Количество Получаемой В Результ...

В общем случае, энтропия H и количество получаемой в результате снятия неопределенности информации I зависят не только от исходного количества рассматриваемых вариантов N,но и от вероятностей реализации каждого из вариантов P: {p₀, p₁, …p_N_-1}, т. е.:

H = F(N, P)

Расчет энтропии в этом случае производится по формуле Шеннона, предложенной им в 1948 году:

Рассмотрим, что такое логарифм log₂(p), называемый двоичным логарифмом:

Нахождение логарифма b по основанию a - это нахождение степени, в которую нужно возвести a, чтобы получить b.

log₂(1) = 0 => 2⁰= 1

log₂(2) = 1 => 2¹= 2

log₂(8) = 3 => 2³= 8

log₂(10) = 3,32 => 2^3,32= 10

Логарифм по основанию 10 называется десятичным:

log₁₀(100) = 2 => 10²= 100

log₁₀(2) = 0,301 => 10^0,301= 2

Отношение двоичного логарифма к десятичному:

Развернуть

Открыть в широком формате

– Конец работы –

Эта тема принадлежит разделу:

Лекция 3. Формулы Шеннона и Хартли. Расчёт количества Информации. Кодирование символьных, графических и звуковых данных. Структуры данных

Информации Кодирование символьных графических и звуковых данных Структуры данных Формула... Log log... Основные свойства логарифмов...

Если Вам нужно дополнительный материал на эту тему, или Вы не нашли то, что искали, рекомендуем воспользоваться поиском по нашей базе работ: Формула Шеннона

Что будем делать с полученным материалом:

Если этот материал оказался полезным ля Вас, Вы можете сохранить его на свою страничку в социальных сетях:

Все темы данного раздела:

Формула Хартли
Формула Хартли – это частный случай формулы Шеннона для равновероятных вариантов. Подставив в формулу Шеннона вместо pi его (в равновероятном случае не з

Количество информации, получаемой в сообщении
До сих пор формулы приводились для расчета энтропии (неопределенности) H с указанием на то, что H в них можно заменять на I, потому что количество информации, получаемое при полном снятии н

Кодирование символьных (текстовых и числовых) данных
С помощью двоичного кода кодируется символьная, т. е. текстовая и числовая информация, для чего используются специальные кодировочные таблицы. Для латинской раскладки клавиатуры применяетс

Кодирование графических данных
Графическая информация, как и информация любого типа, хранятся в памяти компьютера в виде двоичных кодов. Изображение, состоящее из отдельных точек, каждая из которых имеет свой цв

Кодирование звуковых данных
Звуковые волны при помощи микрофона превращаются в аналоговый переменный электрический сигнал. Он проходит через звуковой тракт и попадает в аналого-цифровой преобразователь (АЦП) - устройство, кот

Структуры данных
Для автоматизации работы с данными их объединяют в структуры. Существует три основных типа структур: - линейная (или список), в которой адрес элемента зад