TGViewer
asisakov asisakov @asisakov_channel · 4.08K subscribers
Post #80 647
Как из 6000 признаков выбрать 10 наиболее нужных для модели?

Допустим, мы нагенерили много признаков с использованием техник, описанных в посте выше. Что делать дальше? Неужели нам потом надо тянуть в модель их все и собирать для них отдельные витрины? С 6к признаков такого бы не хотелось.
То есть изначально вопрос стоит вот так: «Имеем 6000 фичей, как сократить?»
1. L1 регуляризация
2. PCA
3. RFE (recursive feature elimination)
4. Feature importance (permutation, SHAP, split (for GB), entropy (for GB), mutual info) -> feature stepwise selection
5. Проверка на статистическую значимость коэффициентов при признаке
6. Проверка на взаимокорреляцию фич друг с другом и на корреляцию с таргетом
7. Проверка по VIF, PSI

Если нужно, в других постах могу раскрыть все эти вещи подробнее

#ml
  • ❤ 4
  • 👍 4
  • 🔥 3
More from @asisakov_channel
  1. Sep 24, 2026Post #1428
  2. Sep 24, 2026Оказывается недавно вышел Opus 5.5, который типа догоняет Fable 5.1, и при этом дешевле на…
  3. Sep 23, 2026Таки вы не Исаков, а Исааков 😏 Шекели жалко
  4. Sep 23, 2026Недавно во второй раз забанили в Клоде, было очень обидно за свою $20 подписку 😭 P.S. При…
  5. Sep 23, 2026Post #1424
  6. Sep 22, 2026Дайте мне повод сжечь токены, и я сделаю это! #meme
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →