Зарегистрироваться

Метод наименьших квадратов

Категории Математическая статистика | Под редакцией сообщества: Математика

Метод наименьших квадратов – общий метод построения оценок неизвестных параметров модели случайного явления как значений параметров, минимизирующих суммы квадратов невязок, т.е. разностей между наблюдениями и их величинами (как функциями от неизвестных параметров), вычисленными по детерминистической математической модели. Метод применяется также при аппроксимации функций и  приближенном решении операторных уравнений (в методе регуляризации А. Н. Тихонова (1963)).

Метод наименьших квадратов предложен К. Гауссом (С. Gauss, 1794-95) и А. Лежандром (A. Legendre, 1805-06). П. Л. Чебышев (1858) разработал способы применения метода наименьших квадратов в моделях полиномиальной регрессии. А. А. Марков (1898) и А. Н. Колмогоров (1946) строго обосновали метод наименьших квадратов и установили границы его применимости. А. Н. Колмогоров (1946), Дж. Дербин и М. Кендалл (J. Durbin, М. Kendall, 1951), У. Крускал (W. Kruskal, 1961) разработали геометрический (бескоординатный) подход к методу наименьших квадратов.

Вычисление оценки наименьших квадратов, как правило, сводится к решению системы линейных уравнений. При весьма общих ограничениях такая оценка оказывается состоятельной, несмещенной и эффективной в классе всех несмещенных оценок.

При весьма общих предложениях оценки параметров, полученные по методу наименьших квадратов, асимптотически нормальны. Поэтому при проверке статистических гипотез в качестве границ доверительных множеств и критических областей можно использовать поверхности эллипсоидов, которые являются поверхностями уровня плотности аппроксимирующего нормального закона.

Литература

1. Линник Ю.В., Метод наименьших квадратов и основы математико-статистической теории обработки наблюдений, 2 изд., М., 1962.

2. Демиденко Е. З., Линейная и нелинейная регрессия, М., 1981.

3. Рао С. Р., Линейные статистические методы и их применения, пер. с англ., М., 1968.

4. Алберт А., Регрессия, псевдоинверсия и рекуррентное оценивание, пер. с англ., М., 1977.

Эта статья еще не написана, но вы можете сделать это.