Название статьи:
Контроль автокорреляции остатков с помощью коэффициента Фехнера в задаче математического программирования для отбора информативных регрессоров в линейной регрессии
Авторы: Базилевский М.П., кандидат технических наук, доцент, кафедра математики, https://orcid.org/0000-0002-3253-5697, SPIN-код: 4347-5028, AuthorID RSCI: 679277, Иркутский государственный университет путей сообщения, г. Иркутск, Российская Федерация,
mik2178@yandex.ru В рубрике:
МАТЕМАТИЧЕСКИЕ НАУКИ / ТЕХНИЧЕСКИЕ НАУКИ
Год: 2024 Том: 6 Номер журнала: 2
Страницы: 146-158
Тип статьи: Научная статья
УДК: 519.862.6
DOI: 10.17150/2713-1734.2024.6(2).146-158
Аннотация:
Статья посвящена проблеме отбора наиболее информативных регрессоров в линейной регрессии, оцениваемой с помощью метода наименьших квадратов. Ранее эта задача была формализована в виде задачи частично-булевого линейного программирования. Целевой функцией в ней выступает значение коэффициента детерминации, а линейные ограничения позволяют контролировать такие характеристики, как абсолютные вклады переменных в общую детерминацию, критерий Стьюдента, коэффициенты вздутия дисперсии, коэффициенты интеркорреляций. Цель данной статьи состоит в расширении задачи частично-булевого программирования линейными ограничениями, позволяющими контролировать в процессе построения по данным временных рядов степень автокорреляции остатков регрессии. Показано, что для обнаружения автокорреляции первого порядка достаточно вычислить коэффициент корреляции между остатками в текущий и предыдущий момент времени. Использовать коэффициент корреляции Пирсона для интеграции в задачу в виде линейных ограничений не представляется возможным. Поэтому был использован коэффициент Фехнера, зависящий от количества совпадений и несовпадений знаков отклонений двух переменных от их средних величин. Этот коэффициент, как и коэффициент Пирсона, принимает значения от -1 до +1. Чем ближе его абсолютное значение к единице, тем сильнее коррелируют переменные. Использование коэффициента Фехнера при вычислении автокорреляции остатков первого порядка позволило интегрировать его в задачу частично-булевого линейного программирования в виде линейных ограничений. Корректность сформулированной задачи подтверждена решением конкретного примера по реальным статистическим данным. При этом была построена модель с полным отсутствием автокорреляции остатков, уравнение которой совпало с уравнением полученной ранее при других ограничениях регрессии, что снова подтверждает ее адекватность.
Ключевые слова: линейная регрессия, временные ряды, метод наименьших квадратов, автокорреляция остатков, коэффициент Фехнера, отбор информативных регрессоров, задача частично-булевого линейного программирования
Список цитируемой литературы: - Montgomery D.C. Introduction to Linear Regression Analysis / D.C. Montgomery, E.A. Peck, G.G. Vining. - John Wiley & Sons, 2021. - 704 p.
- Alpaydin E. Introduction to Machine Learning / E. Alpaydin. - MIT Press, 2020. - 537 p.
- Стрижов В.В. Методы выбора регрессионных моделей / В.В. Стрижов. - Москва : Вычислительный Центр им. А.А. Дородницына Российской академии наук, 2010. - 60 с.
- Айвазян С.А. Прикладная статистика и основы эконометрики / С.А. Айвазян, В.С. Мхитарян. - Москва : ЮНИТИ, 1998. - 1022 с.
- Chung S. A Mathematical Programming Approach for Integrated Multiple Linear Regression Subset Selection and Validation / S. Chung, Y.W. Park, T. Cheong // Pattern Recognition. - 2020. - Vol. 108. - P. 107565.
- Bertsimas D. Scalable Holistic Linear Regression / D. Bertsimas, M.L. Li. - DOI 10.1016/j.orl.2020.02.008 // Operations Research Letters. - 2020. - Vol. 48, no. 3. - P. 203- 208.
- Базилевский М.П. Отбор информативных регрессоров с учётом мультиколлинеарности между ними в регрессионных моделях как задача частично-булевого линейного программирования / М.П. Базилевский // Моделирование, оптимизация и информационные технологии. - 2018. - Т. 6, № 2 (21). - С. 104-118.
- Базилевский М.П. Построение вполне интерпретируемых линейных регрессионных моделей с помощью метода последовательного повышения абсолютных вкладов переменных в общую детерминацию / М.П. Базилевский. - DOI 10.17308/sait/1995-5499/2022/2/5-16. - EDN CNDSSW // Вестник Воронежского государственного университета. Серия: Системный анализ и информационные технологии. - 2022. - № 2. - С. 5-16.
- Базилевский М.П. Формализация процесса отбора информативных регрессоров в линейной регрессии в виде задачи частично-булевого линейного программирования с ограничениями на коэффициенты интеркорреляций / М.П. Базилевский. - DOI 10.17513/snt.39723. - EDN FCOPEL // Современные наукоемкие технологии. - 2023. - № 8. - С. 10-14.
- Базилевский М.П. Формализация процесса отбора информативных регрессоров в линейной регрессии в виде задачи частично-булевого линейного программирования с ограничениями на коэффициенты интеркорреляций / М.П. Базилевский. - DOI 10.17513/snt.39723. - EDN FCOPEL // Современные наукоемкие технологии. - 2023. - № 8. - С. 10-14.
- Гефан Г.Д. Эконометрика / Г.Д. Гефан. - EDN VAABCZ. - Иркутск : Иркутский государственный университет путей сообщения, 2005. - 84 с.
- Кремер Н.Ш. Теория вероятностей и математическая статистика / Н.Ш. Кремер. - Москва : Юнити-Дана, 2004. - 573 с.
- Фёрстер Э. Методы корреляционного и регрессионного анализа / Э. Фёрстер, Б. Рёнц. - Москва : Финансы и статистика, 1983. - 303 с.
- Демаков В.И. Модификация метода Фехнера для повышения устойчивости анализа данных / В.И. Демаков, А.В. Демаков. - DOI 10.18101/2304-5728-2022-1-35-44. - EDN IGQBCH // Вестник Бурятского государственного университета. Математика, информатика. - 2022. - № 1. - С. 35-44.
- Саадалов Т. Методика расчета коэффициента корреляции Фехнера и Пирсона, и их области применения / Т. Саадалов, Р. Мырзаибраимов, Ж.Д. Абдуллаева. - DOI 10.33619/2414-2948/71/31. - EDN GNMYZT // Бюллетень науки и практики. - 2021. - Т. 7, № 10. - С. 270-276.
- Базилевский М.П. Оценивание модульных линейных регрессионных моделей с помощью метода наименьших модулей / М.П. Базилевский, А.Б. Ойдопова. - DOI 10.15593/2224-9397/2023.1.06. - EDN MEKQHE // Вестник Пермского национального исследовательского политехнического университета. Электротехника, информационные технологии, системы управления. - 2023. - № 45. - С. 130-146.