рефераты конспекты курсовые дипломные лекции шпоры

Реферат Курсовая Конспект

Статистические меры информации

Статистические меры информации - раздел Информатика, Объект и предмет информатики. Структура Информатики При Статическом Вероятностном Подходе Получение Конкретного Количества Информ...

При статическом вероятностном подходе получение конкретного количества информации рассматривается как результат определенного выбора среди возможных сообщений. Получатель информации может заранее знать или угадать ее часть. Когда приходит сообщение о часто происходящих событиях, вероятность появления которых Р стремится к единице, то такое сообщение малоинформативно. Столь же малоинформативны в среднем сообщения о событиях, вероятности которых стремятся к нулю, т.е. о почти невозможных событиях, поскольку сообщения о таких событиях поступают чрезвычайно редко.

События можно рассматривать как возможные исходы некоторого опыта. Все исходы составляют полную группу событий, или ансамбль.

Ансамбль характеризуется тем, что сумма вероятностей всех сообщений в нем равна единицы

то есть

.

Рассмотрим сложные сообщения, составляемые из п элементов, каждый из которых является независимым и выбирается из алфавита, содержащего т букв, с вероятностями выбора элементов соответственно. Предположим, что в некоторое сообщение вошло элементов алфавита, элементов и т.д.

 

– Конец работы –

Эта тема принадлежит разделу:

Объект и предмет информатики. Структура Информатики

Информатика делится на ряд разделов... Теоретическая информатика... Основная статья Теоретическая информатика...

Если Вам нужно дополнительный материал на эту тему, или Вы не нашли то, что искали, рекомендуем воспользоваться поиском по нашей базе работ: Статистические меры информации

Что будем делать с полученным материалом:

Если этот материал оказался полезным ля Вас, Вы можете сохранить его на свою страничку в социальных сетях:

Все темы данного раздела:

Объект и предмет информатики. Структура Информатики
Информа́тика (от информация и автоматика) — наука о методах и процессах сбора, хранения, обработки, анализа и оценивания информации, обеспечивающих возможность её использовани

Практическая информатика
Практическая информатика обеспечивает фундаментальные понятия для решения стандартных задач, таких, как хранение и управление информацией с помощью структур данных, построения алгоритмов, модели ре

Техническая информатика
Основная статья: Компьютерная инженерия Техническая информатика занимается аппаратной частью вычислительной техники, например основами микропроцессорной техники, компьютер

Естественная информатика
Основная статья: Естественная информатика Естественная информатика — это естественнонаучное направление, изучающее процессы обработки информации в природе, мозге и человеч

Объект и предмет информатики.Информационные ресурсы
Информационные ресурсы – это документы и массивы документов в информационных системах (библиотеках, архивах, фондах, банках данных, депозитариях, музейных храненьях и др.). Характеристика

История развития информатики
Информатика как наука стала развиваться с середины прошлого столетия, что связано с появлением ЭВМ и начавшейся компьютерной революцией. Появление вычислительных машин в 1950-е гг. создало для инфо

Понятие информации.
Понятие информации предполагает наличие материального носителя информации, источника информации, передатчика информации, приемника и канала связи между источником и приемником. Понятие информации и

Носители информации.
На магнитных дисках (гибких или жестких) документ фиксирует магнитная запись. На лазерных (CD ROM дисках) соответственно - лазерная запись. Магнитная и оптическая записи - новые виды информ

Сигнал.
Сигнал (в теории информации и связи) — материальный носитель информации, используемый для передачи сообщений в системе связи. Сигнал может генерироваться, но его приём не обязателе

Измерение информации.Энтропия.Количество информации.
В информатике используются различные подходы к измерению информации: Содержательный подход к измерению информации.Сообщение – информативный поток, который в процессе перед

Количество информации.
Количество информации - это мера уменьшения неопределенности. 1 БИТ – такое кол-во информации, которое содержит сообщение, уменьшающее неопределенность зн

Понятие информации.Свойство информации.
Термин информация происходит от латинского слова informatio – разъяснение, изложение. Первоначальное значение этого термина – «сведения, передаваемые

Свойства информации
На свойства информации влияют как свойства данных, так и свойства методов её обработки. 1. Объективность информации. Понятие объективности информации относительно.

Логические выражения и их преобразования
Будем называть две функции F1 и F2 равносильными, или тождественными, если при любых значениях всех пере­менных, входящих в F1 и F2, эти функции принимают оди­наковые значения. Рав

Позиционные системы счисления.
Позиционная систе́ма счисле́ния (позиционная нумерация) — система счисления, в которой значение каждого числового знака (цифры) в записи числа зависит от

Двоичная система счисления
Числа, поступающие в компьютер, переводятся в двличную систему счисления. Двоичная система счисления – позиционная система счисления с основанием 2. Используются цифры 0 и 1. Двоичная сист

Понятие алгоритма.
Алгоритм - точное предписание исполнителю совеpшить определенную последовательность действий для достижения поставленной цели за конечное число шагов. Одним из фундаментал

Свойства алгоритмов
• Дискретность (прерывность, раздельность) – алгоритм должен представлять процесс решения задачи как последовательное выполнение простых (или ранее определенных) шагов. Ка

Способы записи алгоритмов.
На практике наиболее распространены следующие формы представления алгоритмов: · словесная(запись на естественном языке); Словесный способ записи алгоритмов представ

Понятие алгоритма.
Алгоритм - точное предписание исполнителю совеpшить определенную последовательность действий для достижения поставленной цели за конечное число шагов. Одним из фундаментал

Ветвящийся алгоритм.
При исполнении алгоритмов приходится не только находить значения величин, но и анализировать их свойства, сравнивать их друг с другом и в зависимости от результата сравнения выбирать ту или иную ве

Машинный язык
Как я уже упоминал, в введении, отдельный компьютер имеет свой определенный Машинный язык(далее МЯ), ему предписывают выполнение указываемых операций над определяе

Языки Символического Кодирования
Продолжим рассказ о командных языках, Языки Символического Кодирования(далее ЯСК), так же, как и МЯ, являются командными. Однако коды операций и а

Автокоды
Есть также языки, включающие в себя все возможности ЯСК, посредством расширенного введения макрокоманд -они называются Автокоды. В

Универсальные языки
Универсальные языки были созданы для широкого круга задач: коммерческих, научных, моделирования и т.д. Первый универсальный язык был разработан фирмой IBM, ставший в последовательн

Диалоговые языки
Появление новых технических возможностей поставило задачу перед системными программистами – создать программные средства, обеспечивающие оперативное взаимодействие человека с ЭВМ их назвали

Непроцедурные языки
Непроцедурные языки составляют группу языков, описывающих организацию данных, обрабатываемых по фиксированным алгоритмам (табличные языки и генераторы отчетов), и языков связи с оп

История появления Интернета.
Своим зарождением Интернет обязан Министерству обороны США и его секретному исследованию, проводимому в 1969 году с целью тестирования методов, позволяющих компьютерным сетям выжить во время военны

Принципы работы в сети Интернет
Всемирная паутина — это перевод английского словосочетания World Wide Web, которое часто обозначается как WWW, Web или даже 3W. Бурное развитие сети Интернет, которое происходило на протяжении 90-х

IP-адреса
Информация, которой обмениваются ПК делится на пакеты.ПАКЕТ – это "кусочек" информации, содержащий адрес отправителя и получателя. A. Множество пакетов образует п

Доменная система имен
Компьютеры легко могут связаться друг с другом по числовому IP-адресу, однако человеку запомнить числовой адрес нелегко, и для удобства была введена Доменная Система Имен (DNS — Domain Name System)

Локальные вычислительные сети(ЛВС)и их возможности.Коммутационное оборудование.
Коммутационное оборудование Для связи между источником сигнала (компьютера, DVD-проигрывателя, видеокамеры) и воспроизводящим устройством (проектором, плазменной или LCD-панелью, монитором

Виды современного коммутационного оборудования
Современное коммутационное оборудование разделяется на следующие основные группы: 1. Интерфейсы, служащие для подключения источника сигнала к средствам его отображения. 2. Коммута

Иерархическое описание ЭВМ
ЭВМ как сложная система может быть адекватно описана на нескольких уровнях с применением различных языков описания на каждом из уровней. Принципы структурного описания предполагают введени

История развития вычислительной техники,средств и методов программирования. Поколения ЭВМ
Вычислительной техникой называют совокупность устройств, предназначенных для автоматической или автоматизированной обработки данных Немногим более 50 лет прошло с тех пор, как появилась пе

Класическая архитектура ЭВМ.
Классическая архитектура фон Неймана   В общих чертах работу компьютера можно описать так. В начале с помощью устройства ввода-вывода в память вводиться программа и исходные

СОВЕРШЕНСТВОВАНИЕ И РАЗВИТИЕ ВНУТРЕННЕЙ СТРУКТУРЫ ЭВМ
В предыдущем разделе была описана классическая структура ЭВМ, соответствующая вычислительным машинам первого и второго поколений. Естественно, что в результате бурного развития технологии производс

Хотите получать на электронную почту самые свежие новости?
Education Insider Sample
Подпишитесь на Нашу рассылку
Наша политика приватности обеспечивает 100% безопасность и анонимность Ваших E-Mail
Реклама
Соответствующий теме материал
  • Похожее
  • Популярное
  • Облако тегов
  • Здесь
  • Временно
  • Пусто
Теги