Page 35 - 4522

Зауважимо, що ймовірність появи повідомлення «1»
визначається з умови P(1) + P(0) = 1. Підставляючи значення
P(0) від 0 до 1 отримаємо залежність H(A) від P(0),
представлену на графіку рис. 5.1. Перевіримо достовірність
отриманого графіка. Для цього виконаємо перевірку значень
H(A) при P(0) = 0; 0,5; 1. При P(0) = 0, перша і друга складові
формули (5.1) дорівнюють 0. При P(0) = 0,5, перша і друга
складові формули (5.1) дорівнюють 0,5. При P(0) = 1, перша і
друга складові формули (5.1) дорівнюють 0. Отже, перевірка
підтвердила достовірність представленої на рис. 5.1
залежності.
H

1

0,5
P(0)
P(0) P(1)

Рисунок 5.1 – Залежність ентропії джерела, яке оперує двома
повідомленнями, від зміни розподілу ймовірностей їх появи

Розглянемо 3 джерела з різними ймовірностями появи
повідомлення «0»:
1. P(0) = 0; 2. P(0) = 0,5; 3. P(0) = 1
Значення ентропії для цих джерел можна визначити з
графіку рисунку 5.1. Для цих джерел є властивою різний
ступінь невизначеності появи повідомлень. У першого і

34