Построение возможных направлений спуска

Построение возможных направлений спуска. Пусть задана допустимая точка х. Как показано в лемме, ненулевой вектор и является возможным направлением спуска. Естественный подход к построению такого направления заключается в минимизации СfхTd. Заметим, однако, что если существует вектор d, такой, что СfхTd 0, А1d0, Еd 0, то оптимальное значение целевой функции в сформулированной задаче равно, так как ограничениям этой задачи удовлетворяет любой вектор ld, где l сколь угодно большое число.

Таким образом, в задачу должно быть включено условие, которое ограничивало бы вектор и или оптимальное значение целевой функции. Такое ограничение обычно называют нормирующим. Ниже приведены три задачи построения возможного направления спуска, В каждой из этих задач используются различные формы нормировки.

Задачи Р1 и РЗ являются задачами линейного программирования и, следовательно, могут быть решены симплекс-методом. Задача Р2 содержит квадратичное ограничение, но может быть рассмотрена в несколько упрощенном виде. Так как d 0 является допустимой точкой в каждой из приведенных выше задач и так как значение целевой функции в этой точке равно нулю, то ее оптимальное значение в задачах Р1, Р2 и РЗ не может быть положительным. Если минимальное значение целевой функции в задачах Р1, Р2 или РЗ отрицательно, то по лемме построено возможное направление спуска.

С другой стороны, если минимальное значение целевой функции равно нулю, то, как показано ниже, х является точкой Куна Таккера. ЛЕММА. Рассмотрим задачу минимизации fх при условиях Ахb и Ехе. Пусть х допустимая точка, для которой А1xb и А2x b2, где АTА1T, А2T, а bTb1T, b2T. Тогда х является точкой Куна Таккера в том и только в том случае, если оптимальное значение целевой функции в задачах Р1, Р2 или РЗ равно нулю. Доказательство.

Вектор х является точкой Куна Таккера тогда и только тогда, когда существуют векторы u0 и v, такие, что. По следствию 2 из теоремы эта система разрешима в том и только в том случае, если система не имеет решений, т. е. тогда и только тогда, когда оптимальное значение в задачаx Р1, Р2 или РЗ равно нулю. Линейный поиск Только что было показано, как строить возможное направление спуска или убедиться, что текущая точка удовлетворяет условиям Куна Таккера. Пусть теперь хk текущая точка, а dk-возможное направление спуска.

В качестве следующей точки xk1 берется, где длина шага К определяется из решения следующей задачи одномерной минимизации Минимизировать при условиях Предположим теперь, что АTА1T, А2T, а bTb1T, b2T, так что и. Тогда задачу одномерной минимизации можно упростить следующим образом. Во-первых, заметим, что Ехkе и Еdk0, так что ограничение излишне. Так как и для всех l0. Таким образом, рассматриваемая задача приводится к следующей задаче линейного поиска 1 Алгоритм метода Зойтендейка случай линейных ограничений Ниже приведен алгоритм метода Зойтендейка для минимизации дифференцируемой функции f при условии, что. Начальный этап. Найти начальную допустимую точку х1, для которой. Положить k 1 и перейти к основному этапу.

Основной этап. Шаг 1. Пусть задан хk. Предположим, что АTА1T, А2T, а bTb1T, b2T, так что. Взять в качестве dk оптимальное решение следующей задачи заметим, что вместо этой задачи можно использовать Р2 или РЗ Если, то остановиться хk точка Куна Таккера, В противном случае перейти к шагу 2. Шаг 2. Положить равным оптимальному решению еле дующей задачи линейного поиска где определяется в соответствии с 1. Положить, определить новое множество активных ограничений в и переопределить А1 и А2. Заменить k на k1 и перейти к шагу 1. Заметим, что. Решим задачу методом Зойтендейка, взяв в качестве начальной точки. Каждая итерация алгоритма содержит решение подзадачи, определенной в описании шага 1, для нахождения направления, а затем линейный поиск вдоль этого направления.

Итерация 1 Поиск направления.

В точке имеем. Кроме того, в точке x1 активными являются только ограничения неотрицательности переменных, так что l 3,4. Задача для нахождения направления имеет вид Рис. 2 Эту задачу можно решить симплекс методом для решения задач линейного программирования. На рисунке 2 показана допустимая область этой задачи. Линейный поиск. Теперь, двигаясь из точки 0, 0 вдоль направления 1, 1, нужно найти точку, в которой значение целевой функции минимально.

Любая точка может быть записана в виде, а целевая функция в этой точке принимает вид. Максимальное значение коэффициента l, для которого точка допустима, вычисляется по формулам и равно Следовательно, если новая точка, то значение получается из решения следующей задачи одномерной минимизации минимизировать 102 при условии 0 . Очевидно, что решением является, так что Итерация 2 Поиск, направления. В точке имеем. Рис 3. Кроме того, множество активных ограничений в точке х2 равно l2, так что направление движения получается из решения следующей задачи минимизировать при условии Читатель может проверить на рис. 3, что оптимальным решением этой задачи линейного программирования является точка, а соответствующее значение целевой функции равно. Линейный поиск.

При начальной точке х2 любая точка в направлении d2 может быть представлена в виде Соответствующее ей значение целевой функции равно Максимальное значение l для которого точка Х2ld2 остается допустимой, определяется в соответствия с 1 следующим образом Таким образом, в качестве берется оптимальное решение следующей задачи минимизировать при условии Оптимальным решением этой задачи является, так что Рис 4. Итерация 3 Поиск направления.

В точке х3 имеем Кроме того, множество активных ограничений в точке хз равно l 2, так что направление движения получается из решения следующей задачи Можно легко проверить по рис. 4. что действительно является решением этой задачи линейного программирования.

Соответствующее значение целевой функции равно нулю, и процедура заканчивается. Более того, точка является точкой Куна Таккера. В этой конкретной задаче функция f выпукла, и по теореме 4.3.7 точка х является оптимальным решением. Таблица 1 Результаты вычислений по методу Зойтендейка для случая линейных ограничений Рис. 5. Поиск решения методом Зойтендейка случай линейных ограничений. В табл. 1 приведены результаты вычислений для рассмотренной задачи.

На рис. 10.5 изображен процесс поиска решения в соответствии с описанным алгоритмом.