Чем больше участвую в соревнованиях, тем больше убеждаюсь, что классические приемы, которым учат на курсах по Data Science часто не работают.

😉 В классических курсах, тебя учат обучать модель на таких данных, которые точно встретятся в тесте.

😆 В реальных боевых или соревновательных условиях - это часто не так. А если это нет так, то надо делать модель более обобщенной.

😱 Простейший пример - early stopping, с помощью которого находят оптимальное время обучения модели. Так вот, хорошей практикой, при участии в соревнованиях, является остановка обучения модели на более ранних стадиях. Так можно откалибровать локальную валидацию по отложенной выборке на лидер борде и не допустить переобучения под тренировочную выборку.