Темная сторона работы в ML

Пост немного о наболевшем (причем не только у меня). На всяких курсах по ML рассказывают про разные плюшки о профессии — о том, что тут высокие зарплаты, что за ИИ будущее, и что вообще нейронки вытеснят остальных программистов…
Но так ли все радужно? За годы работы в сфере обучения ML-моделей у меня сформировался свой список вещей, которые дизморалят.

🔺 Почти всегда непредсказуемые результаты.
Речь о том, что ты можешь потратить недели на подготовку данных, реализацию моделей и алгоритмов, а по итогу получишь прирост качества в полпроцента. Или вообще деградацию. Можем ли мы это заранее знать? Нет, потому что нейронка — это черный ящик. Остается только ставить гипотезы, проверять и надеяться, что модель станет «умнее», чем была. Конечно, говорят, что отрицательный результат — это тоже результат. Но ведь мы все равно рассчитываем на положительный. А если его долго нет, это выбивает из колеи.

🔺 Требуются хорошее железо.
Согласитесь, что современные нейронки кушают очень много. А тем более их обучение. Хорошо, если компания это понимает и готова вкладываться в вычислительные мощности. А если нет? Тогда придется «драться» за видюхи с коллегами и вставать в очередь на обучение. А сроки-то тоже не ждут.

😢 Даже слышал о таких случаях, когда компания, не имея свое железо, закупает доступ к облачным вычислениям. И если разработчик их много использует, а положительного результата нет, то возникают вопросы от руководства.

🔺 Поиск датасетов — это тот еще квест.
Для обучения моделей требуется много данных. А ты попробуй столько найди в общем доступе. Хорошо, если подготовка данных — это забота других людей. Тоже хорошо, если задача популярная, и датасеты для нее легко скачать. А если задача экзотическая, наберись терпения, чтоб перерыть кучу сайтов, разобраться с их ссылками. Порой даже требуется на каком-то сайте оставлять заявку, рассказываю о себе и о твоих целях на эти данных... Увлекательно, не правда ли?

Ставьте 💯, если согласны с каким-то пунктиком. Но это еще не все, продолжение следует...