Page 35 - 4703
P. 35
функції необхідно лише узяти достатнє число радіальних еле-
ментів. Залишається вирішити питання про те, як слід
скомбінувати виходи прихованих радіальних елементів, щоб
отримати з них вихід мережі. Виявляється, що досить узяти їх
лінійну комбінацію (тобто зважену суму гаусових функцій).
Мережа RBF має вихідний шар, що складається з елементів з
лінійними функціями активації.
Переваги мереж RBF. Мережі RBF мають ряд переваг
перед мережами MLP. По-перше, як вже сказано, вони моде-
люють довільну нелінійну функцію за допомогою усього од-
ного проміжного шару, і тим самим позбавляють нас від необ-
хідності вирішувати питання про число шарів. По-друге, па-
раметри лінійної комбінації у вихідному шарі можна повністю
оптимізувати за допомогою добре відомих методів лінійного
моделювання, які працюють швидко і не зазнають труднощів з
локальними мінімумами, які так заважають при навчанні MLP.
Тому мережа RBF навчається дуже швидко (на порядок
швидше MLP).
З іншого боку, до того, як застосовувати лінійну оп-
тимізацію у вихідному шарі мережі RBF, необхідно визначити
число радіальних елементів, положення їх центрів і величини
відхилень. Відповідні алгоритми, хоча і працюють швидше за
алгоритми навчання MLP, у меншій мірі придатні для відшу-
кування субоптимальних рішень. В якості компенсації, Авто-
матичний конструктор мережі пакету ST Neural Networks
зможе виконати за вас усі необхідні дії з експериментування з
мережею.
Інші відмінності роботи RBF від MLP пов'язані з різним
представленням простору моделі: "груповим" в RBF і "пло-
щинним" в MLP.
Недоліки мереж RBF. Досвід показує, що для правиль-
ного моделювання типової функції мережа RBF, з її більше
ексцентричною поверхнею відгуку, вимагає дещо більшого
числа елементів. Звичайно, можна спеціально придумати фор-
му поверхні, яка добре представлятиметься першим або,
навпаки, другим способом, але загальний підсумок виявляєть-
ся не на користь RBF. Отже, модель, заснована на RBF,
працюватиме повільніше і зажадає більше пам'яті, ніж
відповідний MLP (проте вона набагато швидше навчається, а в
деяких випадках це важливіше).
35