Page 44 - 4522
P. 44
втрат інформації не буде. Другими словами, джерело має
суттєву і несуттєву інформацію. Надлишковість джерела – це
власне несуттєва інформація джерела. Проте надлишкову
інформацію можна використовувати на приймальній стороні
СПІ для випралення помилок, якщо такі вносяться в
інформаціюв процесі її передачі через канал зв’язку
Якою є технічна трактовка параметра “коефіцієнт
надлишковості джерела”?
Джерело інформації видає певну кількість інформації,
яку можна представити двома способами:
1) nH(A),
де n – кількість повідомлень (символів) необхідна
для передачі заданої кількості інформації;
H(A) – реальна ентропія джерела.
2) n H max (A) ,
0
де n – мінімальна кількість повідомлень (символів)
0
необхідна для передачі заданої кількості
інформації;
H max (A) – максимальна ентропія джерела.
Ці два добутки представляють одну й ту саму кількість
інформації. Отже, на їх основі можна скласти рівняння:
n H max (A) n H(A);
0
З цього рівняння отримаємо, що
H(A) n 0
(5.9)
H max (A) n
Тепер підставимо вираз для відношення H(A)/H max(A)
(5.4) в формулу (5.3) отримаємо:
n n - n
с 1 0 0 (5.10)
n n
Тепер на основі формули (5.5) можемо дати технічну
трактовку параметра ρ. Коефіцієнт надлишковості визначає
43