Page 16 - 4721

3 АДАПТИВНЕ ПРОГНОЗУВАННЯ ЗНАЧЕНЬ ФУНКЦІЇ
З ДОПОМОГОЮ ЛІНІЙНОЇ НЕЙРОННОЇ МЕРЕЖІ

Мета роботи: ознайомитися з вирішенням задачі
адаптивного прогнозування з допомогою мережі з лінійною
функцією активації нейронів.

Теоретичні відомості

У лінійній функції активації сигнал на виході нейрона
лінійно пов’язаний із ваговою сумою сигналів на його вході:

f(x)=tx,
де t - параметр функції.

У штучних нейронних мережах із шаруватою структурою,
нейрони з передавальними функціями такого типу, як
правило, складають вхідний шар. Крім простої лінійної
функції можуть бути використовуватись також її модифікації.
Наприклад напівлінійна функція (якщо її аргумент менше
нуля, то вона дорівнює нулю, а в інших випадках, поводить
себе як лінійна) або крокова (лінійна функція з насиченням),
яку можна виразити формулою:

Недоліками крокової і напівлінійних активаційних
функцій щодо лінійної можна назвати те, що вони не є
диференційовними на всій числової осі, а отже, не можуть
бути використані при навчанні за деякими алгоритмам.

15