Page 148 - 5637

Отже, функція ( ) в будь-якій точці простору x найшвидше зростає в напрямку

градієнта ( ), а убуває – за напрямом антиградієнта – ( ).

Розглянемо істота градієнтного методу на прикладі задачі максимізації ( ) (у

випадку мінімізації ( ) побудови аналогічні). B відповідності з принципом

максимального зростання ( ) вздовж ( ) згідно градієнтному методу обирається

така траєкторія пошуку (від початкового наближення ), що в кожній точці напрямки

градієнта ( ) є дотичним до цієї траєкторії. Дана траєкторія ( ) є ортогональною
п
поверхням рівня ( ) (тобто кривим ( ) = , де – фіксоване значення ( )) і
ф
ф
визначається з рішення диференціального рівняння
( )
п

п
= ( ) (0) = ,
де – параметр кривої пошуку ( визначено в інтервалі ∈ [0, 4], – кінцеве значення

параметра пошуку; певне попаданням ( ) в точку максимуму ( )), Таким чином,
п
при пошуку екстремуму Методом градієнта кожен раз вибирається оптимальний

напрямок пошуку. При практичній реалізації вищенаведена система диференціальних

рівнянь вирішується наближеними Методами. При ортогональних траєкторіях

( ) замінюється ламаної з вершинами в послідовних точках, , , …, які

п
визначаються, наприклад, за допомогою методу Ейлера за формулами
= + ,

де

= ( ) ; = − ;

= ( ) − ( ), ≥ 0.
п
п

Остаточно ітераційний формула алгоритму:
= + ( )

де α – задається коефіцієнт. Останнє співвідношення реалізується за допомогою
Послідовності кроків ℎ , ℎ , …, які визначають геометричне просування з вершин

, , …, в напрямку градієнта (антиградієнта в Випадку завдання мінімізації). Кроки

(ℎ , ℎ , …, обчислюються за формулами ℎ = ‖ ( )‖ ( ≥ 0).

При практичному застосуванні даного методу основним стримуючим фактором є
необхідність багаторазового обчислення вектора градієнта ( ), що й обумовлює

додаткові вимоги до точності обчислення ( ).