рефераты конспекты курсовые дипломные лекции шпоры

Реферат Курсовая Конспект

Измерение информации

Измерение информации - Лекция, раздел Информатика, ЛЕКЦИИ ПО КУРСУ ИНФОРМАТИКА Лекция 1. Введение. История информатики. Измерение   Бурное Развитие Средств И Систем Связи В 30-Х Годах Нашего Ст...

 

Бурное развитие средств и систем связи в 30-х годах нашего столетия привело к необходимости разработки методов оценки количества информации. Основные теоретические положения были сформулированы в 40-х годах в работах К. Шеннона в связи с необходимостью развития системы передачи военной информации. В качестве единицы количества информации было принято то количество информации, которое содержится в некотором стандартном сообщении.

Одно из представлений направлений включает следующие системы показателей: прагматическая, семантическая, синтаксическая, познавательная.

Прагматическое направление и показатели предназначено для систем передачи обработки и хранения информации, т.е. для технических параметров систем информации.

Дискретные значения аргумента и функции представляют в виде набора символов некоторого алфавита. Если обработка этих значений осуществляется арифметическими преобразованиями, то символы определяются цифровыми символами в выбранной системе счисления.

Для однозначного описания каждого уровня функции (или точки аргумента ti рис.1.6) выделим некоторое количество символов - q, например, знаков выбранного алфавита (в русском q будет равно 33, в английском – 26 и т.п.) и некоторое количество позиций, длину слова, - n . Тогда общее возможное количество описываемых уровней функции будет определяться количеством общим числом комбинаций (числом произвольных слов, смысловая составляющая здесь не учитывается) и определится как N = qn . При слове длины n = 2 и русском алфавите, число комбинаций N = 332 = 1089, т.е. можно обозначить такое количество уровней.

В ИС, для простоты реализации, в цифровых системах, практически всегда выбирают двоичный алфавит, состоящий только из символов “1” и “0” Количество комбинаций двоичного слова длины n будет N = 2n. Двоичное слово длины n называют байтом, в настоящее время принято считать n=8.

Объем информации может измеряться длиной необходимого слова в выбранном алфавите, так если имеется N – “количество информации”, число уровней, и выбран алфавит размерности q, то требуется найти n. Так как N = qn, то n = logq N , это для технической информатики не выгодно (средства реализации!), поэтому все (количество информации - I(q)) сводят к определению количества необходимых бит

I(q) = n log2 q

Один бит соотносят одному элементу информации, тогда общее количество информации от множества k источников с алфавитами длиной qi, равно

I(q1, q2, qk) = I(q1) + I(q2) + I(q3) + ….+ I(qk)

Рассмотренный метод оценки количества называется аддитивной (суммарной) мерой информации (по Хартли), где q – глубина числа, количество символов принятых для представления информации, n – число позиций, необходимых и достаточных для представления чисел заданной величины.

В целом заранее не известен вид и количество информации поступающей информации об объектах, она может быть произвольной, случайной. Аддитивная мера, в условиях неопределенности, “полагает”, что каждый знак поступает с равной вероятностью (“приближенно” – с равной частотой, возможностью).

В реальных условиях в сообщениях информация поступает с разной возможностью (вероятностью) для различных знаков. В этом случае объем информации определяют как

I = - S pi log2 pi,

где i – номер знака (символа), i - 1¸ n, pi – вероятность (возможность) появления знака (символа) в сообщении, pi принимает значение 0£pi£ I. I – называют энтропией , очевидно, что она определяет возможность появления различных знаков в условиях “неопределенности”, случайного появления знаков. Подобная оценка называется статистической мерой информации и широко используется в технических системах.

В систему показателей количества и качества информации включаются следующие показатели:

- важность - значимость информации с точки зрения тех задач, для решения которых используется оцениваемая информация, полнота информации для решаемых задач;

- адекватность - соответствие текущему состоянию соответствующих объектов или процессов;

- релевантность информации, поступающей для обеспечения решаемых задач;

- толерантность поступающей информации

Важность информации всецело определяется необходимостью и достаточностью для решения конкретных задач.

Под адекватностью информации понимается “…степень ее соответствия действительному состоянию тех реалий, которые отображает оцениваемая информация”. Определение адекватности осуществляется по двум параметрам: объективностью получения информации о предмете, процессе или явлении и продолжительностью интервала времени между моментом получения информации и текущим моментом, т. е. до момента оценивания ее адекватности.

Объективность, очевидно, зависит от способа получения значений характеристик предмета, процесса или явления и качества реализации (использования) способа в процессе получения этих знаний. Значения адекватности точно определить сложно (в отличие от статистических методов), поэтому методы сводятся к введению некоторых характеристик и коэффициентов.

Релевантность - характеристика соответствия содержания потребностям решаемой задачи. Количественно релевантность определяется коэффициентом Кp = Np / No, где - Np - количество релевантной информации, No - общее количество информации. Проблема заключается в сложности, а порою и невозможности, определения количества информации.

Толерантность - показатель удобства восприятия и использования информации для решаемых задач. Определение является неопределенным, субъективным и значение показателя представляется качественно.

Система семантических показателей - характеризует смысловое содержание оцениваемой информации. Оценки ценности информации осуществляется двумя методами.

1. Оценивается количество ссылок на информацию в различных источниках. Ранее определяли ссылки только в документах, а в настоящее время такие же оценки можно осуществлять анализируя и файловую информацию (ряд оценок можно добавлять исходя из информации в Internet). В кибернетике и математической лингвистике такие методы хорошо разработаны.

2. Вводится понятие элементарной информационной семантической единицы, под которой понимается некоторая законченная мысль. Показатель информации, в этом случае, определяется как количество таких единиц в общем количестве информации. Определение достаточно сложное и система только разрабатывается.

Остальные показатели используются в различных направлениях и находятся в стадии разработки.

Таким образом: количество, качество и ценность информации в целом по информационной системе определяется оценкой по всей системе показателей.

 

– Конец работы –

Эта тема принадлежит разделу:

ЛЕКЦИИ ПО КУРСУ ИНФОРМАТИКА Лекция 1. Введение. История информатики. Измерение

Лекция... Введение История информатики Измерение...

Если Вам нужно дополнительный материал на эту тему, или Вы не нашли то, что искали, рекомендуем воспользоваться поиском по нашей базе работ: Измерение информации

Что будем делать с полученным материалом:

Если этот материал оказался полезным ля Вас, Вы можете сохранить его на свою страничку в социальных сетях:

Все темы данного раздела:

Переключательные функции одного и двух переменных
Рассмотрим некоторые ПФ одного и двух аргументов. В табл. 2.2 представлены все 4 функции одного аргумента. Таблица 2.2 x f0(x)

Лекция 3. Преобразования логических выражений
Синтез комбинационных схем связан с преобразованиями логических выражений, которые содержат ПФ. Приведем достаточно очевидные формулы для ФПС ПФ, содержащей операции дизъюнкции, конъюнкции и отрица

Логические элементы
Рассмотрим некоторые логические элементы с одним и двумя входами, реализующие ПФ от одного и двух аргументов. Логический элемент

Построение схем на элементах заданного базиса
Для аналитического представления ПФ используют правило ее записи по единицам: - в таблице истинности выбирают все наборы, на которых ПФ равна единице; - выписывают произведения ар

Лекция 4. Системы счисления
В общем случае система счисленияÌ представляет собой совокупность приемов и правил для записи чисел цифровыми знаками. Существуют различные системы счисления. Любая, предна

Метод непосредственного замещения
Перевод чисел этим методом выполняется следующим образом: - заданное число А(q) представляется в виде (3.1): A(q)=an-1´qn-1+…+a

Метод последовательного деления на основание
Этот метод используется для перевода только целых чисел. Пусть число A(q) требуется записать в р-ичной системе. Допустим, что такое представление получено и новое число В

Метод последовательного умножения на основание
Этот метод применяется для перевода из одной системы счисления в другую только правильных дробей. Пусть правильную дробь A(q) требуется записать в системе счисления с осн

В двоичную и наоборот
Существует особый случай перевода, если основание одной системы счисления является целой степенью основания другой системы. В этом случае перевод чисел существенно упрощается. В ЭВМ наиболее часто

Прямой код
Прямой код соответствует обычной записи числа со своим знаком. Положительное число имеет в знаковом разряде символов 0, отрицательное – 1. Прямой код обозначают [A]пр, а знаковый разряд

Обратный код
Для образования обратного кода коэффициент С в выражении (3.3) выбирается равным максимальному числу, которое может быть записано в регистре с n целыми и m дробными разрядами: С = 2n

Сложение чисел в обратном коде
Покажем, что при использовании обратного кода вычитание можно заменить сложением в обратном коде. При этом сумма обратных кодов равна обратному коду алгебраической суммы. Рассмотрим возмож

Дополнительный код
Идея образования дополнительного кода возникла в связи со стремлением избавиться от операции циклического переноса, которая приводит к увеличению времени выполнения операции сложения. Оказывается ,

Лекция 6. Переполнение разрядной сетки
  В ЭВМ количество разрядов, используемых для представления чисел, ограничено. Поэтому при сложении двух чисел с одинаковыми знаками их сумма может оказаться больше по модулю, чем мак

Формы представления в ЭВМ числовых данных
В математике широко используются две формы записи чисел: естественная и нормальная. При естественной форме число записывается в естественном натуральном виде, например: 28759 – цело

Лекция 7. Комбинационные схемы и конечные автоматы
Любое устройство обработки дискретной информации имеет n входов и m выходов. Сигналы на входах соответствуют символам входного алфавита, а выходные – символам выходного алфавита. Имеются д

D-триггер
D-триггер имеет один информационный вход D и вход синхронизации С. Схема D-триггера и обозначения его на ф

D-триггер с дополнительными RS входами
Реализация D-триггера с использованием RS- триггера связана с увеличением состава схемы на один инвертор, увеличением числа входов (до трех) в схемах И-НЕ. Схема D-триггера, дополненная

Двухтактный D-триггер
Во многих схемах, например, в регистрах сдвига, устойчивая работа триггера возможна только, если занесение в него новой информации осуществляется после передачи информации о его состоянии в следующ

Регистры
Регистры —это набор простейших запоминающих устройств (например, триггеров) для временного хранения двоичной информации в устройствах обработки информации. Регистры можно получ

Счетчики
Счетчики – это устройства, предназначенное для счета числа импульсов, поступающих на его вход с фиксацией результатов. Счетчик, как и сдвигающий регистр, составляется из цепочки триггеров. На рис.

Одноразрядный двоичный сумматор
Одноразрядный двоичный сумматор является комбинационной схемой с тремя входами и двумя выходами (рис.4.15).  

Лекция 9. Типовые устройства ЭВМ
Дешифраторы Дешифратор – это устройство, которое имеет n входов и 2 n выходов, причем каждой i-ой комбинации сигналов на входе соответству

Мультиплексор
Мультиплексор (MX, MUL), (рис. 4.20.) –это электронное устройство, которое имеет несколько информационных D-входов и один выход F, осуществляющее последовательное подключение входов к выходу

Хотите получать на электронную почту самые свежие новости?
Education Insider Sample
Подпишитесь на Нашу рассылку
Наша политика приватности обеспечивает 100% безопасность и анонимность Ваших E-Mail
Реклама
Соответствующий теме материал
  • Похожее
  • Популярное
  • Облако тегов
  • Здесь
  • Временно
  • Пусто
Теги