Алгоритм метода

Случайно выбираемся точка с некоторыми координатами. Затем по формуле (1) рассчитывается следующая точка.

Алгоритм останавливается либо при уменьшении модуля рабочего шага, либо по значению целевой функции.

Модуль рабочего шага

b=h

 

Преимущества:

-метод сходится быстрее.

Недостаток:

-необходимость вычислять частные производные.

в) Метод наискорейшего спуска

Представляет собой ускоренный метод градиента

При поиске min

f(x₁, x₂, … x_m)- целевая функция

x_i^N+1=x_i^N – t ∂f/∂x_i^N = x(t) i=1, … m

будем считать t – переменной

f(x₁(t), x₂(t), . . .,x_m(t)) = (t), в этом случае целевая функция есть функция одной переменной t.

Составим уравнение =0, найдем t*.

 

x_i^N+1=x_i^N – t^* ∂f/∂x_i^N

чем ближе к min – тем меньше , тем меньше шаг надо делать.