🤔 Как работает регресс ?

Термин "регресс" в контексте статистики и машинного обучения относится к методам прогнозирования количественных значений (например, цен, температур, доходов, и т.д.) на основе данных. Основная цель — оценить взаимосвязи между зависимой переменной (что нужно предсказать) и одной или несколькими независимыми переменными (факторами, которые влияют на предсказание).

🚩Основные виды

🟠Линейная регрессия
Наиболее базовая и часто используемая модель регрессии, которая предполагает линейную зависимость между зависимой переменной и независимыми переменными. Модель описывается уравнением:
y = \beta_0 + \beta_1x_1 + \beta_2x_2 + \ldots + \beta_nx_n + \epsilon
где \( y \) — зависимая переменная, \( x_1, x_2, \ldots, x_n \) — независимые переменные, \( \beta_0, \beta_1, \ldots, \beta_n \) — коэффициенты модели, а \( \epsilon \) — случайная ошибка.

🟠Полиномиальная регрессия
Расширение линейной регрессии, которое позволяет моделировать нелинейные взаимосвязи путем введения степеней независимых переменных.

🟠Логистическая регрессия
Хотя это и называется "регрессией", это метод классификации, используемый для прогнозирования двоичных исходов (да/нет, 0/1). Модель предсказывает вероятность принадлежности к одному из классов.

🟠GРидж (Ridge) и Лассо (Lasso) регрессии
Варианты линейной регрессии с добавлением регуляризации (штрафа за большие значения коэффициентов), что помогает уменьшить переобучение и улучшить обобщающую способность модели.

🚩Как он работает

🟠Подготовка данных
Включает сбор, очистку и возможно трансформацию данных.

🟠Выбор модели
Основываясь на понимании данных и предварительном анализе, выбирается соответствующий тип регрессионной модели.

🟠Обучение модели
На этапе обучения алгоритм использует исторические данные для оценки параметров (коэффициентов) модели. Это обычно делается путем минимизации функции потерь, например, методом наименьших квадратов для линейной регрессии.

🟠Оценка модели
Проверка качества модели с помощью различных метрик, таких как среднеквадратичная ошибка (MSE), коэффициент детерминации \( R^2 \) и других.

🟠Использование модели для прогнозирования
После обучения и валидации модель можно использовать для предсказания новых данных.

Ставь 👍 и забирай 📚 Базу знаний