Page 76 - 4162

n
y
y
H   y    P  log 2 P    H   x
k
k
л1
Тепер ми маємо справу з новою системою подій, що
утворена сукупністю повідомлень, що передаються і
відтворюються. Середній приріст інформації Н п при прийомі
одного повідомлення в такій системі складе
H  H   Hx   x  H   Hy   y (5.16)
П y x
Як видно, передача сигналів в умовах завад
супроводжується деякою втратою інформації, яка
характеризує середню невизначеність, що залишається після
прийому сигналу.
Величини H  x і H  y , що входять в рівняння (5.16),
y x
можуть бути визначені за формулами:

P
x
y
H   y  P    log P   y  P     kHx (5.17)
x i x i k 2 x i k i i
i, k i

H   x  P    log P   x  P     iHy , (5.18)
y
x
P
y k y k i 2 i k k
i, k k
де
y
y
H   y   P    log P   - умовна ентропія
x
P
x i x i k 2 x i k
i, k
сукупності повідомлень, що передаються, яка обчислюється
на основі припущення, що на вході каналу передано значення
х і;
y
x
P
x
H y   x  P    log 2 P   - умовна ентропія
k
i
i
y k
i, k
повідомлень, що передаються, яка обчислюється на основі
припущення, що на вході каналу прийнято повідомлення у к.
При відсутності завад середня невизначеність прийому
сигналів H   0y і ніякої впевненості в роботі каналу
x
зв’язку немає.
Відповідно до раніше приведеного визначення,
пропускна здатність каналу зв’язку, що перебуває під впливом
завад, знаходиться з виразу
x
M 1 H   Hx  
C  M y , (5.19)
n
T
де  xH  log m - ентропія джерела інформації, що
M 2
75