Page 49 - 4196

Знайдене на основі вибіркових даних x оптимальне

значення a вектора параметрів дозволяє визначити оці-
нку сумісної щільності
f €       xax   T  .

4.5 Класифікація методами стохастичної апрок-
симації
(класифікація з навчанням)

Методи класифікації, розглянуті до цих пір, базува-
лися на розподілах щільностей  , які були відомі
f

x
або будувалися шляхом апроксимації вибіркових даних.
Після цього виконується наступний етап класифікації –
розбиття вибіркового простору на класи, виходячи з того
чи іншого правила (байесівське, мінімаксне, Неймана–
Пірсона тощо).
Можна спробувати знайти роздільну поверхню, ми-

x
f
нувши етап побудови  . При цьому належність ко-
жного спостереження певному класу може бути відомою
або невідомою. В першому випадку говорять про кла-
сифікацію з навчанням, в іншому – самонавчанням.
Універсальна схема навчання ґрунтується на мето-
дах стохастичної апроксимації.
Спочатку розглянемо загальну ідею алгоритму на-
вчання. Припустимо, що необхідно знайти min ) a ( J .
Розв’язок отримаємо з необхідної умови мінімуму

) a ( J   ) a ( J  0, (4.29)
a 
де J ) a (  grad a ) a ( J   ) a ( J a  1 ,..., ) a ( J  a - градієнт
n
функціонала (J ) a по a . Замінимо рівняння (4.29) еквіва-
лентним
a  a  A J  a    a , (4.30)

49