Page 179 - 4496

Блоки Основні Допоміжні імовірності Кодові
знаків імовірності комбінації
0.729 0.729 0.729 0.729 0.729 0.729 0.729 1 1
z 1 z 1
z 1
0.081 0.081 0.081 0.081 0.109 0.162 0.271 011
z 1 z 1
z 2
z 1 z 2 0.081 0.081 0.081 0.081 0.081 0.109 010
z 1
z 2 z 1 0.081 0.081 0.081 0.081 0.081 001
z 1
z 1 z 2 0.009 0.010 0.018 0.028 00011
z 2
z 2 z 1 0.009 0.009 0.010 00010
z 2
z 2 z 2 0.009 0.009 00001
z 1
z 2 z 2 0.001 00000
z 2

Середня кількість символів на блок становить L Б = 0.729
 1 + 3  0.081  3 + 3 0.009  5 + 0.001  5 = 1.598. Отже,
середня кількість символів на знак L = 1.598 / 3 = 0.533. Це
значення ще ближче до ентропії H = 0.469, ніж у прикладі 2.
Утворення та кодування блоків по чотири знаки дасть
результат, ще ближчий до теоретичного мінімума, але
кількість різних блоків при цьому подвоїться.

4.4.7 Властивості ефективного коду
Характерною особливістю ефективних кодів є те, що
усунення надмірності повідомлень досягається завдяки різній
кількості символів в кодових комбінаціях для різних знаків.
Коротші кодові комбінації присвоюються більш імовірним
знакам, а довші кодові комбінації - менш імовірним знакам.
Але різна довжина кодових комбінацій приводить до
ускладнень при декодуванні.
Щоб відрізнити кодові комбінації одну від другої, не
можна використовувати розділових знаків. Це приведе до
фактичного збільшення довжини кожної кодової кобінації на
один додатковий знак і зведе нанівець ефект кодування.

176