Page 44 - 4522
P. 44

втрат  інформації  не  буде.  Другими  словами,  джерело  має
                            суттєву і несуттєву інформацію. Надлишковість джерела – це
                            власне  несуттєва  інформація  джерела.  Проте  надлишкову
                            інформацію  можна використовувати  на  приймальній  стороні
                            СПІ  для  випралення  помилок,  якщо  такі  вносяться  в
                            інформаціюв процесі її передачі через канал зв’язку
                                  Якою  є  технічна  трактовка  параметра  “коефіцієнт
                            надлишковості джерела”?
                                  Джерело  інформації  видає  певну  кількість  інформації,
                            яку можна представити двома способами:
                                  1)    nH(A),
                                      де  n  –  кількість  повідомлень  (символів)  необхідна
                                               для передачі заданої кількості інформації;
                                      H(A) – реальна ентропія джерела.
                                  2)    n   H max (A) ,
                                         0
                                      де  n  – мінімальна кількість повідомлень (символів)
                                           0
                                               необхідна  для  передачі  заданої  кількості
                                               інформації;
                                       H max (A)  – максимальна ентропія джерела.

                                  Ці два добутки представляють одну й ту саму кількість
                            інформації. Отже, на їх основі можна скласти рівняння:
                                                    n   H max (A)   n  H(A);
                                                     0
                            З цього рівняння отримаємо, що
                                                           H(A)       n 0
                                                                                                  (5.9)
                                                         H  max  (A)  n

                                  Тепер  підставимо  вираз  для  відношення  H(A)/H max(A)
                            (5.4) в формулу (5.3) отримаємо:
                                                              n     n  -  n
                                                       с  1    0       0                                  (5.10)
                                                               n      n
                                  Тепер  на  основі  формули  (5.5)  можемо  дати  технічну
                            трактовку  параметра  ρ.  Коефіцієнт  надлишковості  визначає
                                                            43
   39   40   41   42   43   44   45   46   47   48   49