Универсальная регрессионная модель
Добавлено: 29 янв 2012, 09:37
yosuf
В настоящее время основным вариантом получения линейного уравнения регресси на практике при наличии необходимого и неограниченного массива исходных данных, по праву, является метод наименьших квадратов (МНК) Гаусса, дающая возможность вычислить коэффициенты регрессионного линейного уравнения y=a+bx.
При всей своей изящности, удобства, неприхотливости, востребованности и много других преимуществ, этот замечательный метод обладает существенным недостатком - плохо или совсем неудовлетворительно работает, если зависимость неизвестна и нелинейна, а случаи привидения в линейный вид путем преобразований и/или замены переменной не будем рассматривать, поскольку предполагает изначальное знание вида зависимости.
Я считаю, что мною найдено альтернативное решение проблемы, работающее в линейной области не хуже МНК Гаусса, одновременно являющееся продолжением этого метода в нелинейную область, что значительно расширяет возможности метода для исследования сложных процессов во многих областях, где неизвестен или осложнен вид зависимости y=f(x).
Уравнение регрессии, предлагаемое мною, имеет вид:
y=a+bГаммарасп(x/t;n;1;1), где a,b- постоянные коэффициенты, и t,n- параметры Гамма-распределения.
Если этот факт интересен участникам форума, то будем обсуждать.
Универсальная регрессионная модель
Добавлено: 29 янв 2012, 16:09
Vector
Перед обсуждением скажите, работу А.Г. Ивахненко по МГУА - "Индуктивный метод самоорганизации моделей сложных систем" читали?
Универсальная регрессионная модель
Добавлено: 29 янв 2012, 17:49
Sonic86
Вот тут можно увидеть кривую гамма-распределения
[url=http://ru.wikipedia.org/wiki/%D0%93%D0%B0%...%BD%D0%B8%D0%B5]http://ru.wikipedia.org/wiki/%D0%93%D0%B0%...%BD%D0%B8%D0%B5[/url]
Если распределение имеет несколько экстремумов, тогда метод работать не будет.
И вообще бессмысленно - форму зависимости в предметной области определяют из предметной области, а не ищут универсальную функцию.
Можно было с большим успехом тупо брать многочлены в качестве приближения функции распределения
Универсальная регрессионная модель
Добавлено: 29 янв 2012, 18:02
yosuf
Vector писал(а):Source of the post Перед обсуждением скажите, работу А.Г. Ивахненко по МГУА - "Индуктивный метод самоорганизации моделей сложных систем" читали?
[b]
Спасибо, буду знакомиться, ознакомился бегло с описанием работы,гуглил, пока не удается скачать книгу. Направление интересное.
Универсальная регрессионная модель
Добавлено: 29 янв 2012, 18:12
yosuf
Очень часто в этой предметной области вид функции не удается определять и тогда этот метод необходим. Можно сравнить результаты с вариантом использования многочлена.
Универсальная регрессионная модель
Добавлено: 29 янв 2012, 18:25
Sonic86
yosuf писал(а):Source of the post Очень часто в этой предметной области вид функции не удается определять и тогда этот метод необходим. Можно сравнить результаты с вариантом использования многочлена.
А с чего это он именно
необходим? Необходимость может докажете?
Ясно же - можно брать любую отфонарную нелинейную функцию с параметрами и ею приближать. Иногда получится, иногда - нет. Но это фактически метод тыка. Ни одна из функций не имеет преимущество перед другой. И ясно, что ни одна не универсальна.
Почему просто не раскладывать в ряды Маклорена? Почему не в ряды Фурье? Тут хотя бы теорема есть о том, что любая непрерывная (или там достаточное число раз дифференцируемая) функция в некотором интервале ими представляется. И метод поиска коэффициентов есть. И общая возможная интерпретация есть. Есть аж 3 вещи, которых у Вас даже нет (причем не то, что бы Вы ее не доказали просто - ее нельзя доказать, ибо неверно: нельзя гамма-распределением приближать синусоиду)
Универсальная регрессионная модель
Добавлено: 29 янв 2012, 18:36
yosuf
Sonic86 писал(а):Source of the post yosuf писал(а):Source of the post Очень часто в этой предметной области вид функции не удается определять и тогда этот метод необходим. Можно сравнить результаты с вариантом использования многочлена.
А с чего это он именно
необходим? Необходимость может докажете?
Ясно же - можно брать любую отфонарную нелинейную функцию с параметрами и ею приближать. Иногда получится, иногда - нет. Но это фактически метод тыка. Ни одна из функций не имеет преимущество перед другой. И ясно, что ни одна не универсальна.
Почему просто не раскладывать в ряды Маклорена? Почему не в ряды Фурье? Тут хотя бы теорема есть о том, что любая непрерывная (или там достаточное число раз дифференцируемая) функция в некотором интервале ими представляется. И метод поиска коэффициентов есть. И общая возможная интерпретация есть. Есть аж 3 вещи, которых у Вас даже нет (причем не то, что бы Вы ее не доказали просто - ее нельзя доказать, ибо неверно: нельзя гамма-распределением приближать синусоиду)
Как раз можно показать, что как гамма-распределением приближать синусоиду).
Предлагаемое уравнение выявляет заложенную закномерность числового ряда, идеально описывает и линейную зависимость.
Универсальная регрессионная модель
Добавлено: 29 янв 2012, 18:45
Sonic86
yosuf писал(а):Source of the post Как раз можно показать, что как гамма-распределением приближать синусоиду).
Предлагаемое уравнение выявляет заложенную закномерность числового ряда, идеально описывает и линейную зависимость.
Т.е. "необходимость" доказывать уже не будете? Надеюсь, стало понятно, что ее нет.
Насчет числового ряда не понял - текст бессмысленен!
О! Вот Вам синусоида:
для
. Приблизьте ее, пожалуйста, Вашей функцией - выпишите коэффициенты. А я ее тогда буду кубическим многочленом приближать.
Напишите коэффициенты и я напишу - и сравним, у кого лучше.
Универсальная регрессионная модель
Добавлено: 29 янв 2012, 19:22
Vector
Sonic86 писал(а):Source of the post yosuf писал(а):Source of the post Как раз можно показать, что как гамма-распределением приближать синусоиду).
Предлагаемое уравнение выявляет заложенную закномерность числового ряда, идеально описывает и линейную зависимость.
Т.е. "необходимость" доказывать уже не будете? Надеюсь, стало понятно, что ее нет.
Насчет числового ряда не понял - текст бессмысленен!
О! Вот Вам синусоида:
для
. Приблизьте ее, пожалуйста, Вашей функцией - выпишите коэффициенты. А я ее тогда буду кубическим многочленом приближать.
Напишите коэффициенты и я напишу - и сравним, у кого лучше.
А потом поспорим о единственности модели и изобретём велосипед.
Универсальная регрессионная модель
Добавлено: 30 янв 2012, 07:27
vicvolf
yosuf писал(а):Source of the post В настоящее время основным вариантом получения линейного уравнения регресси на практике при наличии необходимого и неограниченного массива исходных данных, по праву, является метод наименьших квадратов (МНК) Гаусса, дающая возможность вычислить коэффициенты регрессионного линейного уравнения y=a+bx.
При всей своей изящности, удобства, неприхотливости, востребованности и много других преимуществ, этот замечательный метод обладает существенным недостатком - плохо или совсем неудовлетворительно работает, если зависимость неизвестна и нелинейна, а случаи привидения в линейный вид путем преобразований и/или замены переменной не будем рассматривать, поскольку предполагает изначальное знание вида зависимости.
Метод МНК работает с любыми в том числе нелинейными уравнениями, если критерием правильности аппроксимации является минимум квадрата "невязки".
[url=http://mathinfinity.net.ru/article/81/]http://mathinfinity.net.ru/article/81/[/url]