Стохастическая аппроксимация

(от греч. Stochastikos — умеющий угадывать, проницательный и лат. Approximo — приближаюсь) метод решения широкого класса задач статистического оценивания (См. Статистическое оценивание), при котором каждое следующее значение оценки получается в виде основанной лишь на новом наблюдении поправки к уже построенной оценке. Основными чертами, обусловившими популярность С. А. В теоретических и прикладных работах, явились её непараметричность (применимость при весьма скудной информации об объекте наблюдения) и рекуррентность (простота пересчёта оценки при поступлении нового результата наблюдений). С. А. Применяется во многих прикладных задачах теории управления, обучения, в задачах техники, биологии, медицины. С. А. Описана в 1951 американскими статистиками Г.

Роббинсом и С. Монро, которые предложили рекуррентный план отыскания корня уравнения регрессии (См. Регрессия), т. Е. Корня θ уравнения r (x) = α в ситуации, когда каждое измеренное значение ук функции R (x) в точке Xk содержит случайную ошибку. Процедура Роббинса — Монро даётся формулой xK+i = Xk +ак (ук — α). При некоторых условиях на функцию R (x), последовательность ak, стремящуюся к нулю, и на характер случайных ошибок доказано, что Xk →∞ при увеличении к. Позже метод С. А. Был применен и для решения др. Задач. Отыскания максимума функции регрессии, оценки неизвестных параметров распределения по наблюдениям и др. На основе изучения предельного распределения нормированной разности xk — θ построены асимптотически наилучшие процедуры С.

А., в которых последовательность ак нужно выбирать зависящей от наблюдений. Лит. Вазан М., Стохастическая аппроксимация. Пер. С англ., М., 1972. Невельсон М. Б., Хасьминский Р. З., Стохастическая аппроксимация и рекуррентное оценивание, М., 1972. Р. З. Хасьминский.