Страница 1 из 3

Универсальная регрессионная модель

Добавлено: 29 янв 2012, 09:37
yosuf
В настоящее время основным вариантом получения линейного уравнения регресси на практике при наличии необходимого и неограниченного массива исходных данных, по праву, является метод наименьших квадратов (МНК) Гаусса, дающая возможность вычислить коэффициенты регрессионного линейного уравнения y=a+bx.
При всей своей изящности, удобства, неприхотливости, востребованности и много других преимуществ, этот замечательный метод обладает существенным недостатком - плохо или совсем неудовлетворительно работает, если зависимость неизвестна и нелинейна, а случаи привидения в линейный вид путем преобразований и/или замены переменной не будем рассматривать, поскольку предполагает изначальное знание вида зависимости.
Я считаю, что мною найдено альтернативное решение проблемы, работающее в линейной области не хуже МНК Гаусса, одновременно являющееся продолжением этого метода в нелинейную область, что значительно расширяет возможности метода для исследования сложных процессов во многих областях, где неизвестен или осложнен вид зависимости y=f(x).
Уравнение регрессии, предлагаемое мною, имеет вид:
y=a+bГаммарасп(x/t;n;1;1), где a,b- постоянные коэффициенты, и t,n- параметры Гамма-распределения.
Если этот факт интересен участникам форума, то будем обсуждать.

Универсальная регрессионная модель

Добавлено: 29 янв 2012, 16:09
Vector
Перед обсуждением скажите, работу А.Г. Ивахненко по МГУА - "Индуктивный метод самоорганизации моделей сложных систем" читали?

Универсальная регрессионная модель

Добавлено: 29 янв 2012, 17:49
Sonic86
http://www.mathhelpplanet.com/viewtopic.php?f=51&t=14181&st=0&sk=t&sd=a&start=20
Хаха. Автор - альт. Однако, можно попробовать объяснить.


Вот тут можно увидеть кривую гамма-распределения
[url=http://ru.wikipedia.org/wiki/%D0%93%D0%B0%...%BD%D0%B8%D0%B5]http://ru.wikipedia.org/wiki/%D0%93%D0%B0%...%BD%D0%B8%D0%B5[/url]

Если распределение имеет несколько экстремумов, тогда метод работать не будет.
И вообще бессмысленно - форму зависимости в предметной области определяют из предметной области, а не ищут универсальную функцию.

Можно было с большим успехом тупо брать многочлены в качестве приближения функции распределения

Универсальная регрессионная модель

Добавлено: 29 янв 2012, 18:02
yosuf
Vector писал(а):Source of the post
Перед обсуждением скажите, работу А.Г. Ивахненко по МГУА - "Индуктивный метод самоорганизации моделей сложных систем" читали?

[b]
Спасибо, буду знакомиться, ознакомился бегло с описанием работы,гуглил, пока не удается скачать книгу. Направление интересное.

Универсальная регрессионная модель

Добавлено: 29 янв 2012, 18:12
yosuf
Sonic86 писал(а):Source of the post
http://www.mathhelpplanet.com/viewtopic.php?f=51&t=14181&st=0&sk=t&sd=a&start=20
Хаха. Автор - альт. Однако, можно попробовать объяснить.


Вот тут можно увидеть кривую гамма-распределения
[url=http://ru.wikipedia.org/wiki/%D0%93%D0%B0%...%BD%D0%B8%D0%B5]http://ru.wikipedia.org/wiki/%D0%93%D0%B0%...%BD%D0%B8%D0%B5[/url]

Если распределение имеет несколько экстремумов, тогда метод работать не будет.
И вообще бессмысленно - форму зависимости в предметной области определяют из предметной области, а не ищут универсальную функцию.

Можно было с большим успехом тупо брать многочлены в качестве приближения функции распределения

Очень часто в этой предметной области вид функции не удается определять и тогда этот метод необходим. Можно сравнить результаты с вариантом использования многочлена.

Универсальная регрессионная модель

Добавлено: 29 янв 2012, 18:25
Sonic86
yosuf писал(а):Source of the post Очень часто в этой предметной области вид функции не удается определять и тогда этот метод необходим. Можно сравнить результаты с вариантом использования многочлена.
А с чего это он именно необходим? Необходимость может докажете?
Ясно же - можно брать любую отфонарную нелинейную функцию с параметрами и ею приближать. Иногда получится, иногда - нет. Но это фактически метод тыка. Ни одна из функций не имеет преимущество перед другой. И ясно, что ни одна не универсальна.
Почему просто не раскладывать в ряды Маклорена? Почему не в ряды Фурье? Тут хотя бы теорема есть о том, что любая непрерывная (или там достаточное число раз дифференцируемая) функция в некотором интервале ими представляется. И метод поиска коэффициентов есть. И общая возможная интерпретация есть. Есть аж 3 вещи, которых у Вас даже нет (причем не то, что бы Вы ее не доказали просто - ее нельзя доказать, ибо неверно: нельзя гамма-распределением приближать синусоиду)

Универсальная регрессионная модель

Добавлено: 29 янв 2012, 18:36
yosuf
Sonic86 писал(а):Source of the post
yosuf писал(а):Source of the post Очень часто в этой предметной области вид функции не удается определять и тогда этот метод необходим. Можно сравнить результаты с вариантом использования многочлена.
А с чего это он именно необходим? Необходимость может докажете?
Ясно же - можно брать любую отфонарную нелинейную функцию с параметрами и ею приближать. Иногда получится, иногда - нет. Но это фактически метод тыка. Ни одна из функций не имеет преимущество перед другой. И ясно, что ни одна не универсальна.
Почему просто не раскладывать в ряды Маклорена? Почему не в ряды Фурье? Тут хотя бы теорема есть о том, что любая непрерывная (или там достаточное число раз дифференцируемая) функция в некотором интервале ими представляется. И метод поиска коэффициентов есть. И общая возможная интерпретация есть. Есть аж 3 вещи, которых у Вас даже нет (причем не то, что бы Вы ее не доказали просто - ее нельзя доказать, ибо неверно: нельзя гамма-распределением приближать синусоиду)

Как раз можно показать, что как гамма-распределением приближать синусоиду).
Предлагаемое уравнение выявляет заложенную закномерность числового ряда, идеально описывает и линейную зависимость.

Универсальная регрессионная модель

Добавлено: 29 янв 2012, 18:45
Sonic86
yosuf писал(а):Source of the post Как раз можно показать, что как гамма-распределением приближать синусоиду).
Предлагаемое уравнение выявляет заложенную закномерность числового ряда, идеально описывает и линейную зависимость.
Т.е. "необходимость" доказывать уже не будете? Надеюсь, стало понятно, что ее нет.
Насчет числового ряда не понял - текст бессмысленен!
О! Вот Вам синусоида: $$y=\sin x$$ для $$x \in [-2 \pi;2 \pi]$$. Приблизьте ее, пожалуйста, Вашей функцией - выпишите коэффициенты. А я ее тогда буду кубическим многочленом приближать.
Напишите коэффициенты и я напишу - и сравним, у кого лучше.

Универсальная регрессионная модель

Добавлено: 29 янв 2012, 19:22
Vector
Sonic86 писал(а):Source of the post
yosuf писал(а):Source of the post Как раз можно показать, что как гамма-распределением приближать синусоиду).
Предлагаемое уравнение выявляет заложенную закномерность числового ряда, идеально описывает и линейную зависимость.
Т.е. "необходимость" доказывать уже не будете? Надеюсь, стало понятно, что ее нет.
Насчет числового ряда не понял - текст бессмысленен!
О! Вот Вам синусоида: $$y=\sin x$$ для $$x \in [-2 \pi;2 \pi]$$. Приблизьте ее, пожалуйста, Вашей функцией - выпишите коэффициенты. А я ее тогда буду кубическим многочленом приближать.
Напишите коэффициенты и я напишу - и сравним, у кого лучше.


А потом поспорим о единственности модели и изобретём велосипед.

Универсальная регрессионная модель

Добавлено: 30 янв 2012, 07:27
vicvolf
yosuf писал(а):Source of the post
В настоящее время основным вариантом получения линейного уравнения регресси на практике при наличии необходимого и неограниченного массива исходных данных, по праву, является метод наименьших квадратов (МНК) Гаусса, дающая возможность вычислить коэффициенты регрессионного линейного уравнения y=a+bx.
При всей своей изящности, удобства, неприхотливости, востребованности и много других преимуществ, этот замечательный метод обладает существенным недостатком - плохо или совсем неудовлетворительно работает, если зависимость неизвестна и нелинейна, а случаи привидения в линейный вид путем преобразований и/или замены переменной не будем рассматривать, поскольку предполагает изначальное знание вида зависимости.

Метод МНК работает с любыми в том числе нелинейными уравнениями, если критерием правильности аппроксимации является минимум квадрата "невязки".
[url=http://mathinfinity.net.ru/article/81/]http://mathinfinity.net.ru/article/81/[/url]