Page 33 - 128

Таблиця 3.2 – Об'єднання елементів попарно
Кодові комбінації, що
Пари, що Ймовірність створюються
кодуються їх появи
поступово
АА 0,8 . 0,8=0,64 1 1
АБ 0,8 . 0,2=0,16 0 01 01
БА 0,2 . 0,8=0,16 0 00 001 001
ББ 0,2 . 0,2=0,04 0 00 000 000

В результаті:
N
2n cp=  pk  nk =0,64·1+0,16·2+0,16·3+0,04·3=1,56(біт/2елем),
k 1
або n cp =0,78 (біт/елем).
Відображені в таблиці 3.2 дії називаються кодуванням
по методу n-грам. Досягаючий таким чином ефект
формулюється основною теоремою кодування, де сказано, що

при кодуванні повідомлення, розбитого на блоки по N 1
елементів в кожному, можна, вибравши N 1 достатньо великим,
добитися того, щоб середнє число двійкових елементів
сигналів (бітів) на один елемент вихідного повідомлення було
як завгодно близьким до ентропії сукупності кодуючих
елементів.
Крім коду Фено, оптимального в умовах відсутності
перешкод, практично розповсюджений цілий ряд так званих
первинних, або простих, кодів. Загальною рисою при їх
створенні являлось прямування до мінімальної надлишковості
з врахуванням технічних особливостей використання кодів.
Найбільш давнім є континентальний код Морзе (1891р.). Це
нерівномірний код, за допомогою якого окремі елементи
повідомлення кодуються послідовністю крапок, пауз і тире.
Тривалості цих елементів відносяться один до одного, як
1:1:3. Комбінації відділяються одна від одної інтервалом з
тривалістю тире, а слова – інтервалами, рівними п’яти

34