Структурные и статистические меры информации
Порядок выполнения работы
жүктеу/скачать 49,95 Kb.
|
- Бұл бет үшін навигация:
- Контрольные вопросы
- Какую формулу предложил Клод Шеннон для вычисления количества информации и энтропии
| Порядок выполнения работы
Изучить теоретический материал. Выполнить задания. Ответить на контрольные вопросы. Задание 1 Решите следующие задачи на определение количества информации. Сообщение, записанное буквами из 16 символьного алфавита, содержит 7 символов. Найти количество информации в сообщении. Алфавит содержит 8 букв. Найти количество информации, которое несут 5 букв этого алфавита. В коробке лежат 10 красных шариков и 16 синих шариков. Вынули один шарик. Найти количество информации, что это синий шарик. Задание 2 Источник сообщений выдает символы из алфавита A={a1, a2, a3, a4} с вероятностями: P1=0.2; P2=0.3; P3=0.1; P4=0.4. Найти количество информации. Все вычисления выполнить в программе MS Excel. Задание 3 Выберите вариант задания и решите в MS Excel задачу. В коробке лежат X красных, Y желтых, Z синих шаров. Какое количество информации несет сообщение о цвете вынутого шарика? Варианты заданий
Задание 4 Выберите вариант задания и для заданного текста (количество символов в тексте М) найдите: 1) Мощность алфавита (К) источника (исходя из заданного текста); 2) Количество появлений каждой i-ой буквы в тексте (ni); 3) Определите для каждой буквы алфавита вероятность ее появления по следующей формуле: 4) Для каждой буквы алфавита найти значение энтропии (количества информации), содержащееся в i-ой букве по формуле: 5) Вычислите энтропию источника русских букв по формуле: 6) Определите максимальное значение энтропии источника при условии, что появление всех символов равновероятно. 7) Постройте график зависимости энтропии буквы hi от вероятности ее появления pi. 8) Все вычисления и график выполнить в программе MS Excel. Примерный вид расчета представлен в таблице 2. Таблица 2.
В ячейке С35 формула = СУММ(С3:С34) В ячейках D3-D34 формула = Ci/C35 (i – меняется от 3 до 34) В ячейке D35 формула = СУММ(D3:D34) В ячейках E3-E34 формула =-log(Di;2) (i – меняется от 3 до 34) В ячейках F3-F34 формула =Ei*Di (i – меняется от 3 до 34) В ячейке F35 формула = СУММ(F3:F34) Варианты заданий В Карагандинской области работают предприятия по добыче угля, машиностроения, металлообработки и пищевой промышленности. Для обнаружения и исправления ошибок, возникающих при передаче сообщений, применяют корректирующие коды. На сегодняшний день Караганда является одним из крупнейших промышленных, научных и культурных центров Казахстана. Семантической информацией называют информацию, содержащуюся в высказываниях и передаваемую через значения единиц речи. Измерительной информацией называют информацию о значениях физических величин, а также данные о погрешности измерений. Ключевой информацией называют такие новые сведения, которые не могут быть подсказаны ни контекстом, ни ситуацией. Документальная информация закрепляется посредством какой-либо знаковой системы на бумаге или ином материальном носителе. Генетическая информация определяет морфологическое строение, рост, развитие, обмен веществ, а также иные признаки организма. Деятельность по сбору и обработке существующей и созданию новой информации называется информационной деятельностью. Экономическая информация – это документированные сведения, отражающие состояние экономических процессов. Если же под воздействием помех разрешенная кодовая комбинация перешла в другую разрешенную комбинацию, то ошибка не будет обнаружена. В статистической теории информации в качестве меры количества информации используют энтропию. Содержание отчета Титульный лист. Результаты выполненных работ. Ответы на контрольные вопросы. Контрольные вопросыВ каких единицах измеряется количество информации?Какую формулу предложил Р. Хартли для измерения количества информации?Какую формулу предложил Клод Шеннон для вычисления количества информации и энтропии?В каком случае формула Шеннона совпадает с формулой Хартли?Что такое энтропия?жүктеу/скачать 49,95 Kb. Достарыңызбен бөлісу:
|