Перейти к содержимому
10 класс
НОВОЕ
Новости
Новости сайта
Тарифы
Информатика 10 класс · § 15.3

15.3. Вероятностный подход

Содержание
Главное за минуту

Вероятностный подход оценивает информацию с учётом вероятности события. Чем менее вероятен результат, тем больше информации несёт сообщение о его наступлении. Если событие имеет вероятность p, количество информации i определяется соотношением 1/p = 2^i. Для нескольких исходов в источнике приводится формула Шеннона.

Что нужно понять

  • Не все события одинаково вероятны; вероятность зависит от числа благоприятных исходов и общего числа возможностей.
  • Вероятность события вычисляют как p = K / N, где K - число благоприятных исходов, N - общее число исходов.
  • Информация о наступлении события связана с вероятностью соотношением 1/p = 2^i.
  • Чем меньше вероятность события, тем больше информация о его наступлении.
  • Формула Шеннона учитывает несколько возможных событий с вероятностями p1, p2 и так далее.
  • Если вероятности всех исходов одинаковы, формула Шеннона переходит в формулу Хартли.
  • В задачах о цветных шарах вероятность можно определить по доле шаров нужного цвета от общего количества.

Видео

Превью видео по теме «15.3. Вероятностный подход» - Информатика, 10 класс
Видео доступно после бесплатной регистрации.

Скачать к теме

Материалы по теме доступны после бесплатной регистрации.

Главное по теме

Количество информации о событии связано с его вероятностью: редкое событие несёт больше информации.

Ключевые понятия

Вероятностный подход Подход к измерению информации, учитывающий вероятность наступления событий.
Вероятность события Доля благоприятных исходов среди всех возможных исходов в рассматриваемой задаче.
Количество информации о событии Информационная оценка наступившего события, зависящая от его вероятности.
Формула Шеннона Формула оценки информации о системе возможных событий с учётом их вероятностей.

Формулы

Вероятность события
p = K / N
  • p вероятность интересующего события
  • K число благоприятных исходов
  • N общее число равновозможных исходов
Информация о наступлении события
1 / p = 2^i
  • p вероятность события
  • i количество информации , бит
Формула Шеннона
I = -(p1 * log2(p1) + p2 * log2(p2) + ... + pN * log2(pN))
  • I количество информации о распределении исходов , бит
  • p1, ..., pN вероятности отдельных исходов
  • N число возможных событий

Как это работает

Вероятность события уменьшается По формуле 1/p = 2^i возрастает показатель i Сообщение о событии несёт больше информации.
Все возможные исходы имеют одинаковую вероятность Подставляют p = 1/N для каждого исхода Формула Шеннона сводится к соотношению Хартли.
Есть несколько событий с различными вероятностями Учитывают вероятности каждого исхода Информационная оценка отражает распределение исходов.

Что нужно запомнить

  • В вероятностном подходе учитывается вероятность, а не длина сообщения.
  • Формула Хартли получается как частный случай равных вероятностей.

Проверь себя

Вопрос 1 из 5

Какое событие несёт больше информации при сообщении о его наступлении?

Информационная оценка увеличивается при уменьшении вероятности.
Вопрос 2 из 5

Как вычисляют вероятность по числу благоприятных и всех исходов?

Вероятность вычисляется как p = K / N.
Вопрос 3 из 5

Какое соотношение связывает вероятность p и количество информации i?

Чем меньше p, тем выше показатель степени i в формуле 1/p = 2^i.
Вопрос 4 из 5

При каком условии формула Шеннона сводится к формуле Хартли?

Равновероятность позволяет заменить разные вероятности единым значением 1/N.
Вопрос 5 из 5

Какой подход учитывает различные вероятности исходов?

Вероятностный подход непосредственно связывает информацию с вероятностями событий.