Посмотрел выступление Артёма Бабенко про карьеру в ML research. Несколько мыслей, которые я для себя оттуда забрал.


Достаточно подробно было изложено чем индустрия отличается от research.

В разработке у тебя обычно есть достаточно понятная задача: есть продукт, метрика, сроки. В research всё наоборот. Никто не даст тебе список задач на квартал. Нужно самому понять, где сейчас есть интересная проблема, почему существующие методы не работают и что вообще имеет смысл попробовать.
И поэтому хорошие оценки и умение решать задачи сами по себе ещё не означают, что человек будет хорошим исследователем. Это просто другая работа.

В этом есть свои плюсы и минусы. Вы занимаетесь тем, что вам интересно. Разработчик скован потребностями сервиса и запросами бизнеса, у учёного - свобода выбора направления. Но за свободу платят проактивностью: нужно самому видеть белые пятна на фронтире знания и идти в них. Можно играть в долгую. Разработчик не скажет бизнесу два года моей работы не принесут пользы, а учёный — легко: отдача приходит на горизонте нескольких лет, а может и не прийти.

При этом в ML становится всё сложнее заниматься серьёзными исследованиями в одиночку. Эксперименты дорогие, модели большие, а сама область меняется очень быстро. Поэтому сейчас особенно важна среда: сильная команда, научный руководитель, доступ к вычислениям и людям, которые уже проходили через этот процесс. Работать в одиночку и достичь значимого в мировом смысле результата практически невозможно (впрочем, эта тенденция развивалась уже давно, к примеру, в книге Пенроуза: Путь к реальности это было тоже хорошо освещено).

Мне понравилась мысль про индустриальные лаборатории. В академии часто есть идеи, но может не хватать вычислительных ресурсов и доступа к реальным задачам. В индустрии ситуация во многом обратная. Поэтому исследовательская лаборатория внутри большой технологической компании может быть довольно хорошей точкой пересечения этих двух миров.


Отдельно интересен вопрос, как вообще туда попасть?

Самый разумный путь - начинать как можно раньше и много пробовать. Необязательно сразу знать свою тему на несколько лет вперёд. Для начала можно ходить на научные семинары, летние школы, различные интенсивы, можно сделать несколько проектов, поработать с разными руководителями, почитать разные направления и постепенно понять, что действительно интересно.
И здесь мне кажется важным ещё одно: research плохо совмещается с подходом «буду заниматься этим по вечерам, когда останется время, как Ферма». Если хочется стать профессиональным исследователем, в какой-то момент это должно стать основной деятельностью, ведь сейчас совсем другое время, другие требования.

В выступлении много говорили про ML Residency. По сути, это попытка построить промежуточную ступень между университетом и полноценной исследовательской работой. Длится она год, ведь за более короткий срок вряд-ли удастся сделать полноценного исследователя. Человек приходит с хорошей математической и ML-базой, но ещё не обязательно умеет самостоятельно вести исследования, и дальше год развивается уже внутри исследовательской среды.

Особенно интересно было посмотреть на карьерные траектории людей из лаборатории. Они довольно разные: кто-то начинал со студенческих проектов, кто-то приходил из разработки, кто-то постепенно переходил от одной области ML к другой. Но общий момент один - путь до самостоятельного исследователя занимает годы.

Самое забавное, что есть очень много кейсов, в которых человек меняет свою сферу интересов. То есть, зачастую очень сложно попасть в ту область, которой будешь заниматься в долгосрочной перспективе.