Page 210 - 4703

4. Функція помилок (Error function), яка використову-
ється для тестування мереж. Можливий вибір однієї з двох
функцій:
- суми квадратів (SOS) – найбільш вживана функція для
обох типів мереж MLP або RBF в задачах регресії і класифі-
кації. Функція помилок використовується для оцінки продук-
тивності нейронної мережі під час тренування. Функціональні
помилки показують, наскільки близькі мережеві передбачення
з цілями (targets) і, отже, наскільки регулювання ваги повинні
застосовуватися за алгоритмом навчання в кожній ітерації.
Таким чином, функція помилка показує, як добре мережа ви-
конує прогнози враховуючи її поточний стан налаштування (і,
отже, наскільки повинне бути зроблене коригування величини
її ваг).
Функція помилок SOS розраховується за формулою

N
2

E sos   y  i t i  ,
i 1

де N – число зразків для навчання;
y i – прогнозні значення;
t i – значення цільової функції;

- перехрестна функція помилок ентропії (Cross
entropy) - ця функція помилки передбачається, що дані взяті з
поліноміального сімейства розподілів і підтримує пряму віро-
гідну інтерпретацію мережевих виходів. Зверніть увагу, це
функція помилок доступна тільки для задач класифікації. Це
буде відключена для аналізу типу регресії.
Функція помилок Cross entropy розраховується за фор-
мулою
N
E CE    t i ln   y  i  ,
i 1  t i 
який передбачає, що цільові змінні мають поліноміальний ро-
зподіл (на відміну від суми квадратів помилки SOS, які пе-
редбачають нормальний розподіл цільових змінних).
Залишаємо обидві функції помилок.

210