рефераты конспекты курсовые дипломные лекции шпоры

Реферат Курсовая Конспект

Меры информации

Меры информации - раздел Социология, Лекция 1. ИНФОРМАТИЗАЦИЯ ОБЩЕСТВА Классификация Мер Для Измерения Информации Вводятся Два Парам...

Классификация мер

Для измерения информации вводятся два параметра: количество информации I и объем данных Vд.

Эти параметры имеют разные выражения и интерпретацию в зависимости от рассматриваемой формы адекватности. Каждой форме адекватности соответствует своя мера количества информации и объема данных (рис. 4.1).

 

 


Рис. 4.1 Меры информации

 

Синтаксическая мера информации.

Эта мера количества информации оперирует с обезличенной информацией, не выражающей смыслового отношения к объекту.

Объем данных Vд. в сообщении измеряется количеством символов (разрядов) в этом сообщении. В различных системах счисления один разряд имеет различный вес и соответственно меняется единица измерения данных:

- в двоичной системе счисления единица измерения - бит (bit - binary digit - двоичный разряд).

Примечание. В современных ЭВМ наряду с минимальной единицей измерения данных «бит» широко используется укрупненная единица измерения «байт», равная 8 бит,

- в десятичной системе счисления единица измерения - дит (десятичный разряд).

Пример. Сообщение в двоичной системе в виде восьмиразрядного двоичного кода 10111011 имеет объем данных Vд. = 8 бит.

Сообщение в десятичной системе в виде шестиразрядного числа 275903 имеет объем данных Vд. = 6 дит.

Количество информации I на синтаксическом уровне невозможно определить без рассмотрения понятия неопределенности состояния системы (энтропии системы). Действительно, получение информации о какой-либо системе всегда связано с изменением степени неосведомленности получателя о состоянии этой системы. Рассмотрим это понятие. Пусть до получения информации потребитель имеет некоторые предварительные (априорные) сведения о системе α. Мерой его неосведомленности о системе является функция H(α), которая в то же время служит и мерой неопределенности состояния системы.

После получения некоторого сообщения β получатель приобрел некоторую дополнительную информацию I β(α), уменьшившую его априорную неосведомленность так, что апостериорная (после получения сообщения β) неопределенность состояния системы стала Н α (β).

Тогда количество информации I β(α) о системе, полученной в сообщении β, определится как Iβ(α)=H(β)-H(α), т.е. количество информации измеряется изменением (уменьшением) неопределенности состояния системы.

Если конечная неопределенность Н α (β) обратится в нуль, то первоначальное неполное знание заменится полным знанием и количество информации Iβ(α)=H(α). Иными словами, энтропия системы H(α) может рассматриваться как мера недостающей информации.

Энтропия системы H(α), имеющая N возможных состояний, и согласно формуле Шеннона, равна: , где - вероятность того, что система находится в i-м состоянии.

Для случая, когда все состояния системы равновероятны, т.е. их вероятности равны , ее энтропия определяется соотношением

Часто информация кодируется числовыми кодами в той или иной системе счисления, особенно это актуально при представлении информации в компьютере. Естественно, что одно и то же количество разрядов в разных системах счисления может передать разное число состояний отображаемого объекта, что можно представить в виде соотношения N=mn, где N - число всевозможных отображаемых состояний; m - основание системы счисления (разнообразие символов, применяемых в алфавите); n - число разрядов (символов) в сообщении.

Пример. По каналу связи передается n-разрядное сообщение, использующее m различных символов. Так как количество всевозможных кодовых комбинаций будет N=mn то при равно вероятности появления любой из них количество информации, приобретенной абонентом в результате получения сообщения, будет - формула Хартли.

Если в качестве основания логарифма принять m, то 1= n. В данном случае количество информации (при условии полного априорного незнания абонентом содержания сообщения) будет равно объему данных I=Vд, полученных по каналу связи. Для не равновероятных состояний системы всегда I< Vд=n.

Наиболее часто используются двоичные и десятичные логарифмы. Единицами измерения в этих случаях будут соответственно бит и дит.

Коэффициент (степень) информативности (лаконичность) сообщения определяется отношением количества информации к объему данных, т.е., причем, 0<Y< 1.

С увеличением Y уменьшаются объемы работы по преобразованию информации (данных) в системе. Поэтому стремятся к повышению информативности, для чего разрабатываются специальные методы оптимального кодирования информации.

Семантическая мера информации.

Для измерения смыслового содержания информации, т.е. ее количества на семантическом уровне, наибольшее признание получила тезаурусная мера, которая связывает семантические свойства информации со способностью пользователя принимать поступившее сообщение. Для этого используется понятие тезаурус пользователя.

Тезаурус — это совокупность сведений, которыми располагает пользователь или система.

В зависимости от соотношений между смысловым содержанием информации S и тезаурусом пользователя Sp изменяется количество семантической информации Ic воспринимаемой пользователем и включаемой им в дальнейшем в свой тезаурус. Характер такой зависимости показан на рис. 4.2. Рассмотрим два предельных случая, когда количество семантической информации Ic равно 0:

- при пользователь не воспринимает, не понимает покупающую информацию;

- при пользователь все знает, и поступающая информация ему не нужна.

 

Рис. 4.2 Зависимость количества семантической информации, воспринимаемой потребителем, от его тезауруса Ic=f(Sp)

 

Максимальное количество семантической информации Ic потребитель приобретает при согласовании ее смыслового содержания S со своим тезаурусом Sp(Sp=Sp opt), когда поступающая информация понятна пользователю и несет ему ранее неизвестные (отсутствующие в его тезаурусе) сведения.

Следовательно, количество семантической информации в сообщении, количество новых знаний, получаемых пользователем, является величиной относительной. Одно и то же сообщение может иметь смысловое содержание для компетентного пользователя и быть бессмысленным (семантический шум) для пользователя некомпетентного.

При оценке семантического (содержательного) аспекта информации необходимо стремиться к согласованию величин S и Sp.

Относительной мерой количества семантической информации может служить коэффициент содержательности С, который определяется как отношение количества семантической информации к ее объему: .

Прагматическая мера информации.

Эта мера определяет полезность информации (ценность) для достижения пользователем поставленной цели. Эта мера также величина относительная, обусловленная особенностями использования этой информации в той или иной системе. Ценность информации целесообразно измерять в тех же самых единицах (или близких к ним), в которых измеряется целевая функция.

Пример. В экономической системе прагматические свойства (ценность) информации можно определить приростом экономического эффекта функционирования, достигнутым благодаря использованию этой информации для управления системой: , где - ценность информационного сообщения β для системы управления γ, - априорный ожидаемый экономический эффект функционирования системы управления γ, - ожидаемый эффект функционирования системы γ при условии, что для управления будет использована информация, содержащаяся в сообщении β.

Для сопоставления введенные меры информации представим в табл. 4.1.

 

– Конец работы –

Эта тема принадлежит разделу:

Лекция 1. ИНФОРМАТИЗАЦИЯ ОБЩЕСТВА

Информационная культура термин и содержание... В период перехода к информационному обществу кроме решения описанных выше...

Если Вам нужно дополнительный материал на эту тему, или Вы не нашли то, что искали, рекомендуем воспользоваться поиском по нашей базе работ: Меры информации

Что будем делать с полученным материалом:

Если этот материал оказался полезным ля Вас, Вы можете сохранить его на свою страничку в социальных сетях:

Все темы данного раздела:

Роль и значение так называемых информационных революций
  В истории развития цивилизации произошло несколько информационных революций – преобразований общественных отношений из-за кардинальных изменений в сфере обработки информации. Следст

Справка о смене поколений ЭВМ
1-е поколение (начало 50-х годов). Элементная база – электронные лампы. ЭВМ отличались большими габаритами, большим потреблением энергии, малым быстродействием, низкой надежностью, программирование

Научные представления об информационном обществе
Японские ученые считают, что в информационном обществе процесс компьютеризации даст людям доступ к надежным источникам информации, избавит их от рутинной работы, обеспечит высокий уровень авторизац

Процесс информатизации общества.
Деятельность отдельных людей, групп, коллективов и организаций сейчас все в большей степени начинает зависеть от их информированности и способности эффективно использовать имеющуюся информацию. Пре

Опыт информатизации и роль средств массовой информации
В настоящее время все страны мира в той или иной степени осуществляют процесс информатизации. Неправильно выбранная стратегия информатизации или ее недостаточные динамизм и мобильность могут привес

Лекция 3. ИНФОРМАТИКА - ПРЕДМЕТ И ЗАДАЧИ
1. Появление и развитие информатики. Термин информатика возник в 60-х годах во Франции для названия области, занимающейся автоматизированной обработкой информации с помощью

Структура информатики
Информатика в широком смысле представляет собой единство разнообразных отраслей науки, техники и производства, связанных с переработкой информации главным образом с помощью компьютеров и телекоммун

Лекция 2. ИНФОРМАЦИОННЫЙ ПОТЕНЦИАЛ ОБЩЕСТВА
1. Информационные ресурсы. Ресурс - запасы, источники чего-нибудь. Такая трактовка приведена в Словаре русского языка С.И. Ожегова. В индустриальн

Информационные продукты и услуги
Информационные ресурсы являются базой для создания информационных продуктов. Любой информационный продукт отражает информационную модель его производителя и воплощает его собственное представление

РЫНОК ИНФОРМАЦИОННЫХ ПРОДУКТОВ И УСЛУГ
Назначение рынка. Как и при использовании традиционных видов ресурсов и продуктов, люди должны знать: где находятся информационные ресурсы, сколько они стоят, кто ими владеет, кто в них нужд

Правовое регулирование на информационном рынке
Развитие рыночных отношений в информационной деятельности поставило вопрос о защите информации как объекта интеллектуальной собственности и имущественных прав на нее. В Российской Федерации принят

Информация и данные
Термин информация происходит от латинского informatio, что означает разъяснение, осведомление, изложение. С позиции материалистической философии информация есть отражение реального мира с по

Формы адекватности информации
Адекватность информации может выражаться в трех формах: семантической, синтаксической, прагматической. Синтаксическая адекватность. Она отображает формально-структурные ха

Качество информации
Возможность и эффективность использования информации обусловливаются такими основными ее потребительскими показателями качества как репрезентативность, содержательность, достаточность, досту

Лекция 6. ИНФОРМАЦИОННЫЕ СИСТЕМЫ
В прошлом информация считалась сферой бюрократической работы и ограниченным инструментом для принятия решений. Сегодня информацию рассматривают как один из основных ресурсов развития общества, а ин

Общее представление
Понятие информационной системы. Под системой понимают любой объект, который одновременно рассматривается и как единое целое, и как объединенная в интересах достижения поставленных ц

Этапы развития информационных систем
История развития информационных систем и цели их использования на разных периодах представлены в табл. 7.1. Первые информационные системы появились в 50-е годы. В эти годы они были предназ

Роль структуры управления в информационной системе
Общие положения Создание и использование информационной системы для любой организации нацелены на решение следующих задач. 1. Структура информационной системы, ее функциона

Информационные системы, ускоряющие потоки товаров.
Предположим, фирма специализируется на поставках продуктов в определенное учреждение, например в больницу. Как известно, иметь большие запасы продуктов на складах фирмы очень невыгодно, а не иметь

Информационное обеспечение
Назначение подсистемы информационного обеспечения состоит я своевременном формировании и выдаче достоверной информации для принятия управленческих решений. Информационное обеспечен

Математическое и программное обеспечение
Математическое и программное обеспечение – совокупность математических методов, моделей, алгоритмов и программ для реализации целей и задач информационной системы, а также нормальн

Правовое обеспечение
Правовое обеспечение - совокупность правовых норм, определяющих создание, юридический статус и функционирование информационных систем, регламентирующих порядок получения, преобразования и использов

Характеристика и назначение информационной технологии обработки данных
Информационная технология обработки данных предназначена для решения хорошо структурированных задач, по которым имеются необходимые входные данные и известны алгоритмы и другие стандартные процедур

Основные компоненты информационной технологии обработки данных
Представим основные компоненты информационной технологии обработки данных (рис. 13.2) и приведем их характеристики. Сбор данных. По мере того как фирма производит продукцию или услу

Характеристика и назначение информационной технологии управления
Целью информационной технологии управления является удовлетворение информационных потребностей всех без исключения сотрудников фирмы, имеющих дело с принятием решений. Она может быть полезна на люб

Основные компоненты информационной технологии управления
Основные компоненты информационной технологии управления показаны на рис. 13.3. Входная информация поступает из систем операционного уровня. Выходная информация формируется в виде управлен

Общая характеристика.
Исторически автоматизация началась на производстве и затем распространилась на офис, имея вначале целью лишь автоматизацию рутинной секретарской работы. По мере развития средств коммуникаций автома

База данных
Обязательным компонентом любой технологии является база данных. В автоматизированном офисе база данных концентрирует в себе данные о производственной системе фирмы так же, как в технологии обработк

Электронная почта
Электронная почта (E-mail), основываясь на сетевом использовании компьютеров, дает возможность пользователю получать, хранить и отправлять сообщения своим партнерам по сети. Здесь имеет место тольк

Табличный процессор
Он так же, как и текстовый процессор, является базовой составляющей информационной культуры любого сотрудника и автоматизированной офисной технологии. Без знания основ технологии работы в нем невоз

Видеотекст
Такой текст основан на использовании компьютера для получения отображения текстовых и графических данных на экране монитора. Для лиц, принимающих решение, имеются три возможности получения информац

Хранение изображений
В любой фирме необходимо длительное время хранить большое количество документов. Их число может быть так велико, что хранение даже в форме файлов вызывает серьезные проблемы. Поэтому возникла идея

Аудиоконференции
Они используют аудиосвязь для поддержания коммуникаций между территориально удаленными работниками или подразделениями фирмы. Наиболее простым техническим средством реализации аудиоконференции явля

Характеристика и назначение
Системы поддержки принятия решений и соответствующая им информационная технология появились усилиями в основном американских ученых в конце 70-х - начале 80-х годов, чему способствовали широкое рас

База данных
Она играет в информационной технологии поддержки принятия решений важную роль. Данные могут использоваться непосредственно пользователем для расчетов при помощи математических моделей. Рассмотрим и

База моделей
Целью создания моделей являются описание и оптимизация некоторого объекта или процесса. Использование моделей обеспечивает проведение анализа в системах поддержки принятия решений. Модели, базируяс

Система управления интерфейсом
Эффективность и гибкость информационной технологии во многом зависят от характеристик интерфейса системы поддержки принятия решений. Интерфейс определяет: язык пользователя; язык сообщений компьюте

Лекция 11. МОДЕЛИРОВАНИЕ ОБЪЕКТОВ В ИНФОРМАЦИОННО-ЭНЕРГЕТИЧЕСКОМ ПРОЦЕССЕ ДЕЯТЕЛЬНОСТИ
Изучение, фиксация и создание объектов (предметов или процес­сов) в инженерной деятельности часто требует использования образов - «заместителей» (моделей) вместо самих объектов. Мо

Хотите получать на электронную почту самые свежие новости?
Education Insider Sample
Подпишитесь на Нашу рассылку
Наша политика приватности обеспечивает 100% безопасность и анонимность Ваших E-Mail
Реклама
Соответствующий теме материал
  • Похожее
  • Популярное
  • Облако тегов
  • Здесь
  • Временно
  • Пусто
Теги