Постоянный шаг.

Задается h_k = h = const, при этом должно выполняться условие

F(x^k+1) = F(x^k + h_kÑF(x^k)) > F(x^k).

Пусть F(x) дифференцируема в окрестности точки x^k.

Тогда

F(x) = F(x^k) + (ÑF(x^k),(x - x^k)) + o(||x - x^k || ),

откуда

F(x^k+1) - F(x^k) ≥ Ñ^тF(x^k) (x^k+1 - x^k),

или, подставляя в последнее выражение значеие x^k+1 из (1), получаем

F(x^k+1) - F(x^k) ≥ h_k ║ÑF(x^k) ║². (2)

Тогда, если известно оптимальное значение F^* = max F(x), или F^* = sup F(x), то шаг можно выбирать из условия

F^* - F(x^k) = h_k║ÑF(x^k) ║².

Если по мере продвижения к оптимуму условие (2) перестает выполняться, то производится дробление шага.