Метод наименьших квадратов
Метод наименьших квадратов – общий метод построения оценок неизвестных параметров модели случайного явления как значений параметров, минимизирующих суммы квадратов невязок, т.е. разностей между наблюдениями и их величинами (как функциями от неизвестных параметров), вычисленными по детерминистической математической модели. Метод применяется также при аппроксимации функций и приближенном решении операторных уравнений (в методе регуляризации А. Н. Тихонова (1963)).
Метод наименьших квадратов предложен К. Гауссом (С. Gauss, 1794-95) и А. Лежандром (A. Legendre, 1805-06). П. Л. Чебышев (1858) разработал способы применения метода наименьших квадратов в моделях полиномиальной регрессии. А. А. Марков (1898) и А. Н. Колмогоров (1946) строго обосновали метод наименьших квадратов и установили границы его применимости. А. Н. Колмогоров (1946), Дж. Дербин и М. Кендалл (J. Durbin, М. Kendall, 1951), У. Крускал (W. Kruskal, 1961) разработали геометрический (бескоординатный) подход к методу наименьших квадратов.
Вычисление оценки наименьших квадратов, как правило, сводится к решению системы линейных уравнений. При весьма общих ограничениях такая оценка оказывается состоятельной, несмещенной и эффективной в классе всех несмещенных оценок.
При весьма общих предложениях оценки параметров, полученные по методу наименьших квадратов, асимптотически нормальны. Поэтому при проверке статистических гипотез в качестве границ доверительных множеств и критических областей можно использовать поверхности эллипсоидов, которые являются поверхностями уровня плотности аппроксимирующего нормального закона.
Литература
1. Линник Ю.В., Метод наименьших квадратов и основы математико-статистической теории обработки наблюдений, 2 изд., М., 1962.
2. Демиденко Е. З., Линейная и нелинейная регрессия, М., 1981.
3. Рао С. Р., Линейные статистические методы и их применения, пер. с англ., М., 1968.
4. Алберт А., Регрессия, псевдоинверсия и рекуррентное оценивание, пер. с англ., М., 1977.
Выходные данные:
- Просмотров: 1226
- Комментариев: 0
- Опубликовано: 01.11.2010
- Версий: 2 , текущая: 2
- Статус: экспертная
- Рейтинг: 100.0
Автор:
Зубков Андрей Михайлович
Ссылки отсюда
Персоны:
Гаусс Карл Фридрих; Колмогоров Андрей Николаевич; Линник Юрий Владимирович; Марков Андрей Андреевич; Чебышев Пафнутий Львович.
Ссылки сюда
Категории:
Технологии приборостроения; Эконометрика;
Детализирующие понятия:Методы оценивания эконометрических моделей; Перекрестная выборка.