Универсальная регрессионная модель

Sonic86 · Сообщение **Sonic86** » 30 янв 2012, 16:59

yosuf писал(а):Source of the post
1 14
2 18
3 22
4 26
5 30
6 34
7 38
8 42
9 46
10 50
11 53
12 57
∑ 430

Вы давайте синус приближайте. Я тоже так могу - взять удобные данные и на них что-то иллюстрировать. Если метод сработал в одном случае - это не значит, что он сработает во всех случаях.

yosuf · Сообщение **yosuf** » 30 янв 2012, 18:16

Vector писал(а):Source of the post
Sonic86 писал(а):Source of the post
yosuf писал(а):Source of the post Как раз можно показать, что как гамма-распределением приближать синусоиду).
Предлагаемое уравнение выявляет заложенную закномерность числового ряда, идеально описывает и линейную зависимость.
Т.е. "необходимость" доказывать уже не будете? Надеюсь, стало понятно, что ее нет.
Насчет числового ряда не понял - текст бессмысленен!
О! Вот Вам синусоида: $y=\sin x$ для $x \in [-2 \pi;2 \pi]$ . Приблизьте ее, пожалуйста, Вашей функцией - выпишите коэффициенты. А я ее тогда буду кубическим многочленом приближать.
Напишите коэффициенты и я напишу - и сравним, у кого лучше.

А потом поспорим о единственности модели и изобретём велосипед.

Пожалуй, начнем
Хочу напомнить, что когда обрабатываете фактические данные мы не знаем, что они подчиняются закону синуса и поэтому данные будем вводить по мере их поступления через каждые 0,05 единиц, т.е. по закономерности y=4+Sin(pi/2 +0.05x)
Вот что получается:
pi/2+0.05x............. 4+Sinx(pi/2+0.05x) .....18
1,570796327 4.................. 4
1,620796327 3,99875026 3,99863733
1,670796327 3,995004165 3,994601245
1,720796327 3,988771078 3,987968385
1,770796327 3,980066578 3,978813743
1,820796327 3,968912422 3,967210703
1,870796327 3,955336489 3,953231063
1,920796327 3,939372713 3,936945074
1,970796327 3,921060994 3,918421462
2,020796327 3,900447102 3,897727463
2,070796327 3,877582562 3,874928845
2,120796327 3,852524522 3,850089945
2,170796327 3,825335615 3,823273688
2,220796327 3,796083798 3,79454162
2,270796327 3,764842187 3,763953931
2,320796327 3,731688869 3,731569482
2,370796327 3,696706709 3,697445835
2,420796327 3,659983146 3,661639265
2,470796327 3,621609968 3,624204809
2,520796327 3,581683089 3,585196263
2,570796327 3,540302306 3,544666224
2,620796327 3,497571048 3,502666105
2,670796327 3,453596121 3,459246163
2,720796327 3,408487441 3,414455518
2,770796327 3,362357754 3,368342177
2,820796327 3,315322362 3,320953057
2,870796327 3,267498828 3,272334002
2,920796327 3,219006687 3,222529808
2,970796327 3,169967143 3,171584242
3,020796327 3,120502769 3,119540064
3,070796327 3,070737201 3,066439043
3,120796327 3,020794828 3,012321966
3,170796327 2,970800477 2,957228711

18 = (CQ3+ГАММАРАСП(X/CD3;2;1;1)*CJ3)=4+ГАММАРАСП(x/61.5198;2;1;1)*(-13.2994)

Таланов

Пусть зашумленнный гауссовской помехой синусоидальный сигнал наблюдается в течении первого полупериода (получено 100 точек измерения). Требуется подобрать функцию регрессии и сделать прогноз значений сигнала в течении второго полупериода.
Исходный сигнал $Y(t)=A+B\sin(Ct+D) + E(t); A=10, B=5, C=100\pi, D=\pi/4, E(t)=N[0;0.3]$ .
У меня вот что получилась. А теперь вы попробуйте решить эту задачу со своей универсальной функцией регрессии.

Таланов

Таланов писал(а):Source of the post
У меня вот что получилась. А теперь вы попробуйте решить эту задачу со своей универсальной функцией регрессии.

Юсуфходжа Султонов! Ну что у Вас получилось? Не томите, уже месяц прошёл.

vasiatka · Сообщение **vasiatka** » 18 апр 2012, 05:17

Какая дискуссия развернулась тут)
Ребяты я вам вот что скажу: НЕ НАДО ИСКАТЬ УНИВЕРСАЛЬНОЕ РЕШЕНИЕ - ЕГО НЕТ!
В каждом конкретном случае, нужно применять тот метод который подходит лучше всего.

zykov · Сообщение **zykov** » 18 апр 2012, 19:42

vasiatka писал(а):Source of the post
Ребяты я вам вот что скажу: НЕ НАДО ИСКАТЬ УНИВЕРСАЛЬНОЕ РЕШЕНИЕ - ЕГО НЕТ!

Есть, просто оно должно в себя включать полные данные о задаче - семейство функций для поиска (как например семейство линейных функций) и распределение шума (как например Гауссово).

Метод называется maximum-likelihood estimation.
МНК - это его частный случай для Гауссова распределения. А сам МНК применим для любых функций, а не только для линейных.

Таланов

zykov писал(а):Source of the post
Метод называется maximum-likelihood estimation.
МНК - это его частный случай для Гауссова распределения.

С чего это вдруг?

zykov · Сообщение **zykov** » 20 апр 2012, 04:41

Таланов писал(а):Source of the post
zykov писал(а):Source of the post
Метод называется maximum-likelihood estimation.
МНК - это его частный случай для Гауссова распределения.

С чего это вдруг?

Там по ссылке объясняется в разделе "Least squares as maximum likelihood estimator".

Таланов

zykov писал(а):Source of the post
Там по ссылке объясняется в разделе "Least squares as maximum likelihood estimator".

Я плохо понимаю английский, но метод максимального правдоподобия и метод наименьших квадратов это две большие разницы. Ссылки какие-нибудь есть на отечественных статистиков?

zykov писал(а):Source of the post
МНК - это его частный случай для Гауссова распределения.

Метода максимального правдоподобия? Какая-то ерунда получается.

zykov · Сообщение **zykov** » 21 апр 2012, 01:51

Таланов писал(а):Source of the post
Я плохо понимаю английский, но метод максимального правдоподобия и метод наименьших квадратов это две большие разницы. Ссылки какие-нибудь есть на отечественных статистиков?

Метода максимального правдоподобия? Какая-то ерунда получается.

Да, на русской вики-страничке там гораздо меньше. Есть там в литературе какая-то книга 2007 года. Возможно в ней что-то есть.

Суть метода в том, что оценка параметров статистической модели по выборке осуществляется так, что выбранный набор параметров дает наибольшую вероятность/плотность вероятности (правдоподобие) на данной выборке. Теоретически доказывается ряд полезных свойств для такой оценки (estimator). Метод работает для любых распределений. Например для распределения Гаусса и набора независимых точек в выборке плотность вероятности равна произведению плотностей по отдельным точкам. Экспоннеты в произведении можно объединить, тогда под одной экспонентой будет сумма квадратов, каждый деленный на квадрат сигмы. Максимизация плотности вероятности эквивалентна минимизации этой суммы. Если сигмы везде равны, то это просто сумма квадратов. Если сигмы разные, то это взвешенная сумма квадратов.

Таким образом метод максмального правдоподобия - довольно общий метод. МНК получается из него, как частный случай для Гауссова распределения.

yourdomain.com