🤔 Какие коэффиценты с помощью машинного обучения подбираются?

В машинном обучении коэффициенты, которые подбираются в процессе обучения модели, зависят от типа используемой модели. Эти коэффициенты, также называемые параметрами, определяют, как модель преобразует входные данные в выходные.

🟠Линейная и логистическая регрессия
Веса (коэффициенты) признаков: Эти модели предсказывают выходное значение как взвешенную сумму входных признаков, где каждый признак умножается на соответствующий вес. В математической формулировке для линейной регрессии это выражается как \( y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + ... + \beta_n x_n \), где \( \beta_i \) — коэффициенты, которые модель стремится оптимизировать.
Свободный член (интерсепт, \(\beta_0\)): Это константа, добавляемая к взвешенной сумме, которая позволяет линейной функции не проходить обязательно через начало координат.

🟠Нейронные сети
Веса нейронов: В нейронных сетях каждый нейрон в каждом слое имеет веса, которые определяют вклад входных данных (или результатов предыдущего слоя) в активацию нейрона.
Смещения (biases): Каждый нейрон также может иметь смещение, которое добавляется к взвешенной сумме его входов перед применением функции активации.

🟠Машины опорных векторов (SVM)
Веса: В линейной SVM модели эти веса определяют гиперплоскость, которая максимально отделяет классы данных.
Параметр регуляризации (C): Не является коэффициентом модели в прямом смысле, но это параметр, который нужно настроить в процессе обучения и который контролирует компромисс между достижением малой ширины разделяющей полосы и ограничением количества ошибочных классификаций.

🟠Решающие деревья
Правила разделения: В решающих деревьях коэффициенты — это критерии разделения в каждом узле дерева, которые определяют, как данные будут разделяться на этапах решения.

🟠Ансамбли (например, случайный лес, бустинг)
Коэффициенты отдельных моделей: В ансамблевых методах каждая отдельная модель (например, каждое дерево в случайном лесу) имеет свои коэффициенты, подобные тем, которые используются в решающих деревьях. Веса моделей: В методах бустинга каждая модель имеет вес, который показывает, насколько вклад этой модели важен при формировании конечного прогноза.

Ставь 👍 и забирай 📚 Базу знаний