Page 72 - 4162

Р(х )і
1
2

1
4

х

х1 х1 х1 х1 х1 х1

Рисунок 5.3 - Графік розподілу ймовірностей
дискретної величини х.

Якщо H  H  log m , то швидкість передачі
M 2
інформації менша пропускної здатності каналу зв'язку.
Канал зв'язку в цьому випадку буде недозавантажений.
Розходження між С і R ліквідовується застосуванням
так званого статистичного кодування.
Статистичне кодування сигналів повідомлень
проводиться з урахуванням ймовірностей їх появи. Для
передачі повідомлень, що найчастіше зустрічаються,
кодований сигнал робиться коротшим, а для повідомлень з
малою ймовірність, появи - довшим. За допомогою цього
вдається в ряді випадків значно збільшити швидкість
передачі інформації і наблизити її до пропускної здатності
каналу.
Один з можливих методів статистичного кодування
покажемо на конкретному прикладі. Нехай статистичні
властивості контрольованої дискретної величини X
характеризуються графіком розподілу ймовірностей, що
показаний на рис. 5.3.
Всі повідомлення, що підлягають передачі,
записуються зверху вниз в порядку спадання їх
ймовірностей. Потім ці повідомлення діляться на дві групи
так, щоб суми ймовірностей повідомлень кожної з цих груп
були близькі до 1/2. Верхній групі повідомлень приписується
символ 0 а нижній - 1. Після цього повідомлення кожної
з груп аналогічним чином розбиваються на дві підгрупи.
Повідомлення верхніх підгруп обох груп знову
присвоюється символ 0, а нижнім – 1. Процес такого поділу

71