#методы #регрессия

Говоря о регрессии, нельзя не упомянуть мультиколлинеарность. Это ситуация, при которой несколько признаков в модели сильно коррелируют между собой. То есть модель получает дублирующую информацию от разных переменных.

В классических линейных моделях в такой ситуации коэффициенты становятся нестабильными, что приводит к искажению результатов и усложняет интерпретацию модели.

🔹Что с этим делать:
После анализа корреляции между признаками следующим шагом является снижение мультиколлинеарности в модели.
Существует несколько подходов:
1. Удаление признаков
Оставляем один фактор из группы сильно коррелирующих, отказываясь от остальных. Доступно в любом формате работы.
2. Регуляризация
Использование методов регуляризации, таких как Lasso и Ridge-регрессия.
Они позволяют снизить влияние избыточных признаков за счёт «штрафа» на коэффициенты. Только python или R

Модель без мультикол. становится лучше и устойчивее и без ущерба точности (пример на скрине).