Спуска Метод

- метод решения задачи минимизации где f - нек-рая функция переменной х= (х 1, . ., х n). Итерационная последовательность { х k} С. М. Вычисляется по формуле где gk - вектор, указывающий нек-рое направление убывания функции f в точке х k, а - итерационный параметр, величина к-рого указывает длину шага в направлении gk. Если функция f дифференцируема и xk не является ее точкой экстремума, то вектор gk должеа удовлетворять неравенству где f' (xk) - градиент функции f в точке xk. Если f - достаточно гладкая функция (напр., дважды непрерывно дифференцируемая) и последовательность векторов { х k}удовлетворяет неравенству (*), то существует такая последовательность что При определенных ограничениях (см.

[3]) на функцию f и способ выбора параметров и векторов gk последовательность {а:*} сходится к решению х* исходной задачи. К С. М. Относятся градиентные методы, в к-рых векторы {g*}каким-либо образом выражаются через векторы {f'(xk)}. Одним из наиболее распространенных является случай, когда где В(х) - симметрическая матрица, удовлетворяющая для любых векторов хи у неравенству с нек-рыми константами При дополнительных предположениях (см. [3])относительно f и специальном выборе градиентный метод обеспечивает сходимость последовательности { х k} к решению { х*}исходной задачи со скоростью геометрич. Прогрессии со знаменателем g<l. Частным случаем градиентных методов является наискорейшего спуска метод, в к-ром матрица В(х)выбирается единичной.

Лит. [1] Канторович Л. В., Акилов Г. П., Функциональный анализ в нормированных пространствах, 2 изд., М., 1977. [2] 3ойтендейк Г., Методы возможных направлений, пер. С англ., М., 1963. [3] Пшеничный Б. Н., Данилин Ю. М., Численные методы в экстремальных задачах, М., 1975. [4] Поляк Б. Т., лЖ. Вычисл. Математики и матем. Физики.