🔤 Недавно меня спросили, почему в своем коде, я переобучают модели и "early стопаю" их не во время минимальной функции ошибки.

🔤 Сперва хотел ответить, что усреднение по немного переобученным моделям на практике показывает более качественный перфоманс (уже не помню, откуда у меня взялось такое интуитивное ощущение).

🔤 Однако, вспомнил, что все ж зависит еще от задачи и финальной метрики.

🔤 В общем, вот вам красивый пример, почему это работает. Фишка в том, что после минимального значения функции ошибки, ваша главная ML метрика (или бизнес метрика), может продолжать улучшаться.

🔤 Именно поэтому, полезно разбираться в метриках и уметь "впихивать" в модели кастомные метрики/лоссы.

🔤 Таким навыком можно выжимать еще пару процентов точности.