Page 48 - 4713

Тип передатної функції: сигмоїдальна. В нейронних мережах
застосовуються кілька варіантів сигмоїдальних передатних функцій.

Функція Ферми (експонентна сигмоїда).
Раціональна сигмоїда.
Гіперболічний тангенс.

Сигмоїдальні функції є монотонно зростаючими і мають
відмінні від нуля похідні по всій області визначення. Ці
характеристики забезпечують правильне функціонування і навчання

мережі.
Області застосування. Розпізнавання образів, класифікація,
прогнозування.
Недоліки. Багатокритеріальна задача оптимізації в методі

зворотного поширення розглядається як набір однокритеріальних
задач - на кожній ітерації відбуваються зміни значень параметрів
мережі, що покращують роботу лише з одним прикладом навчальної

вибірки. Такий підхід істотно зменшує швидкість навчання.
Переваги. Зворотне поширення - ефективний та популярний
алгоритм навчання багатошарових нейронних мереж, з його
допомогою вирішуються численні практичні задачі.

Модифікації. Модифікації алгоритму зворотного поширення
зв'язані з використанням різних функцій похибки, різних процедур
визначення напрямку і величини кроку.

Які компоненти містить перцептрон Розенбалата?
Мережа принципово відрізняється від розглянутих вище мереж,
оскільки використовує неконтрольоване навчання і навчальна

множина складається лише із значень вхідних змінних.
Мережа розпізнає кластери в навчальних даних і розподіляє дані
до відповідних кластерів. Якщо в наступному мережа зустрічається з

набором даних, несхожим ні з одним із відомих зразків, вона
відносить його до нового кластеру. Якщо в даних містяться мітки
класів, то мережа спроможна вирішувати задачі класифікації. Мережі
Кохонена можна використовувати і в задачах, де класи відомі -

перевага буде у спроможності мережі виявляти подібність між
різноманітними класами.
Мережа Кохонена має всього два прошарки: вхідний і вихідний,

що називають самоорганізованою картою. Елементи карти
розташовуються в деякому просторі - як правило двовимірному.
Мережа Кохонена навчається методом послідовних наближень.
Починаючи з випадковим чином обраного вихідного розташування

48