Page 65 - 4524

Швидкість зменшення температури повинна бути зворо-
тно пропорційна логарифму часу. При цьому мережа збігаєть-
ся до глобального мінімуму.
Області застосування. Розпізнавання образів, класифі-
кація.
Недоліки. Повільний алгоритм навчання.
Переваги.Алгоритм дає можливість мережі вибиратися з
локальних мінімумів адаптивного рельєфу простору станів.
Модифікації. Випадкові зміни можуть проводитися не
тільки для окремих ваг, але і для всіх нейронів прошарків в
багатошарових мережах або для всіх нейронів мережі одноча-
сно. Ці модифікації алгоритму дають можливість скоротити
загальне число ітерацій навчання.

5.13 Мережа Хемінга

Мережа Хемінга (Hamming) є розширенням мережі Хо-
пфілда. Ця мережа була розроблена Річардом Ліппманом
(Richard Lippman) у середині 80-х рр. Мережа Хемінга реалі-
зує класифікатор, що базується на найменшій похибці для ве-
кторів двійкових входів, де похибка визначається відстанню
Хемінга. Відстань Хемінга визначається як число бітів, які ві-
дрізняються між двома відповідними вхідними векторами фі-
ксованої довжини. Один вхідний вектор є незашумленим при-
кладом образу, інший є спотвореним образом. Вектор виходів
навчальної множини є вектором класів, до яких належать об-
рази. У режимі навчання вхідні вектори розподіляються до
категорій для яких відстань між зразковими вхідними векто-
рами та біжучим вхідним вектором є мінімальною.
Мережа Хемінга має три прошарки: вхідний прошарок з
кількістю вузлів, скільки є окремих двійкових ознак; проша-
рок категорій (прошарок Хопфілда), з кількістю вузлів, скіль-
ки є категорій або класів; вихідний прошарок, який відповідає
числу вузлів у прошарку категорій (рис. 5.11).
Мережа є простою архітектурою прямого поширення з
вхідним рівнем, повністю під'єднаним до прошарку категорій.
Кожен елемент обробки у прошарку категорій є зворотно пі-
д'єднаним до кожного нейрона у тому ж самому прошарку і
прямо під'єднаним до вихідного нейрону. Вихід з прошарку

64