Page 178 - 4496

кожного знаку потрібний або 0, або 1. Середня кількість
символів на знак становить при цьому L=1, далека від ентропії
H = 0.469, і меншою зроблена бути не може.
В той же час значення ентропії показує велику
надмірність повідомлень. Але цю надмірність шляхом
кодування знаків усунути не вдається.
Приклад 2. Тепер утворимо блоки по два знаки.
Вважаючи знаки взаємонезалежними, визначимо відповідні
імовірності, і застосуємо методику ефективного кодування
Хаффмена.

Блоки Основні Допоміжні Кодові
знаків імовірності імовірності комбінації
z 1 z 1 0.81 0.81 0.81 1 1
0.09 0.10 0.19 00
z 1z 2
z 2 z 1 0.09 0.09 011
z 2 z 2 0.01 010

Середня кількість символів на блок становить L Б = 0.81 
1 + 0.09  2 + 0.09  3 + 0.01  3 = 1.29. Отже, середня
кількість символів на знак L = 1.29 / 2 = 0.645. Це значення
ближче до ентропії H = 0.469, ніж у прикладі 1. Таким чином,
надмірність вдалося значно зменшити.
Приклад 3. Тепер утворимо блоки по три знаки.
Вважаючи знаки взаємонезалежними, визначимо відповідні
імовірності, і застосуємо методику ефективного кодування
Хаффмена.

175