Перейти к содержимому
10 класс
НОВОЕ
Новости
Новости сайта
Тарифы
Информатика 10 класс · § 15.4

15.4. Решение задач на определение объёма информации

Содержание
Главное за минуту

Чтобы решить задачу на определение объёма информации, выясняют, что требуется найти: число бит для одного из возможных исходов, объём сообщения из символов или информацию о событии с известной вероятностью. Для равновероятных вариантов используют соотношение N = 2^i, для текста - V = K * i, для события - 1/p = 2^i. При нескольких исходах разной вероятности применяют формулу Шеннона.

Что нужно понять

  • Для N равновероятных исходов число бит i находят из соотношения N = 2^i. Если требуется целое число бит для кодирования, результат округляют вверх.
  • Бросок шестигранного кубика имеет шесть равновероятных результатов: двух бит недостаточно, а трёх достаточно для их кодирования.
  • Для текста из K символов информационный объём равен V = K * i, где i - информационный вес символа в выбранном алфавите.
  • При восьмибитном кодировании один символ занимает один байт; в одном килобайте 1024 байта.
  • Если кодируют целые значения от -30 до 34 градусов включительно, возможны 65 значений, и для каждого достаточно 7 бит.
  • Вероятность события определяют отношением благоприятных исходов к общему числу равновозможных исходов: p = K/N.
  • Информацию о событии с вероятностью p находят из 1/p = 2^i: менее вероятному событию соответствует больше бит информации.
  • Если исходы имеют разные вероятности, среднее количество информации вычисляют по формуле Шеннона, учитывая вероятность каждого исхода.

Видео

Превью видео по теме «15.4. Решение задач на определение объёма информации» - Информатика, 10 класс
Видео доступно после бесплатной регистрации.

Скачать к теме

Материалы по теме доступны после бесплатной регистрации.

Главное по теме

Способ вычисления зависит от условий задачи: числа возможных исходов, длины и кодировки сообщения либо вероятностей событий. Полученный результат проверяют по единицам измерения.

Ключевые понятия

Мощность алфавита Количество различных символов, входящих в используемый алфавит.
Информационный вес символа Количество информации, которое несёт один символ при выбранном способе кодирования.
Информационный объём текста Количество информации, содержащееся во всех символах текста при заданном информационном весе одного символа.
Вероятность события Отношение числа благоприятных исходов к числу всех равновозможных исходов.
Бит Единица количества информации; при двоичном кодировании она соответствует одному двоичному разряду.

Формулы

Соотношение Хартли для равновероятных исходов
N = 2^i
  • N число равновероятных исходов или мощность алфавита
  • i информация об одном исходе или символе , бит
Информационный объём текста
V = K * i
  • V информационный объём текста , бит
  • K число символов в тексте , символов
  • i информационный вес одного символа , бит/символ
Вероятность события
p = K / N
  • p вероятность события
  • K число благоприятных исходов
  • N общее число равновозможных исходов
Количество информации о событии
1 / p = 2^i
  • p вероятность события
  • i количество информации о его наступлении , бит
Формула Шеннона
I = -(p1 * log2(p1) + p2 * log2(p2) + ... + pN * log2(pN))
  • I среднее количество информации , бит
  • p1, p2, ..., pN вероятности возможных исходов
  • N число различных исходов
Перевод килобайтов в байты
1 Кбайт = 1024 байта

Как это работает

Число равновероятных исходов не равно степени двойки Сравнивают N с ближайшими значениями 2^i и выбирают достаточное целое число разрядов Для кодирования всех исходов получают минимальное целое число бит.
Увеличивается число символов при неизменном информационном весе В формуле V = K * i увеличивается множитель K Информационный объём текста возрастает.
Событие становится менее вероятным По соотношению 1/p = 2^i информационный вес события увеличивается Сообщение о наступлении события содержит больше информации.
Возможные исходы имеют разные вероятности Учитывают вероятность каждого исхода по формуле Шеннона Получают среднее количество информации для данного распределения исходов.

Что нужно запомнить

  • При подсчёте целых значений диапазона учитывают обе границы.
  • Для хранения кода требуется целое число бит; при нехватке разрядов округляют вверх.
  • Для текстовых сообщений не смешивают биты, байты и килобайты.
  • Формула Шеннона учитывает разные вероятности исходов.

Проверь себя

Вопрос 1 из 5

Сколько целых бит нужно для кодирования результата броска шестигранного кубика?

Для шести равновероятных результатов двух бит недостаточно: 2^2 = 4, а 2^3 = 8. Нужно три бита.
Вопрос 2 из 5

Сколько различных целых значений температуры от -30 до 34 градусов включительно?

Количество целых значений с учётом обеих границ: 34 - (-30) + 1 = 65.
Вопрос 3 из 5

Сообщение размером 11 Кбайт содержит 11 264 символа. Сколько байт приходится на символ?

11 Кбайт = 11 * 1024 = 11 264 байта; каждому символу соответствует один байт.
Вопрос 4 из 5

Какую формулу применяют для определения количества информации при нескольких исходах с разными вероятностями?

Формула Шеннона учитывает вероятности разных исходов и определяет среднее количество информации.
Вопрос 5 из 5

В ящике 32 мяча. Сообщение о выборе жёлтого мяча несёт 4 бита. Сколько жёлтых мячей?

Из 1/p = 2^4 получаем p = 1/16. Доля жёлтых мячей составляет 1/16, поэтому их 32/16 = 2.