Page 19 - 4524

N
f ( x, w)   w i x , (2.4)
i
 i 1
- мінімальне значення зважених входів
f (x , ) w  min ( xw ) . (2.5)
i i i

2.3 Функція активації

Функція активації (activation function) fa описує
правило переходу нейрона, що перебуває в момент часу
k у стані z(k), у новий стан z(k+1) при надходженні вхі-
дних сигналів x
z( k 1  ) f  kz ),( f  wx, . (2.6)
a вх
Надалі позначатимемо функцію активації без ін-
дексу «а».
Найбільш простими активаційними функціями є:
- лінійна
f ( z ) Kz, K  const ; (2.7)

Рисунок 2.2 – Лінійна активаційна функція

- лінійна біполярна з насиченням

18