СПЕЦИАЛИЗИРОВАННЫЙ ML/DL
Часть 1

Прошлая часть серии тут

Не отходя от кассы разберем ML теорию до конца. В следующей серии также сразу обсудим ML System Design. Но пока пошли по теории, давайте копнем чуть глубже. Интересно также отметить некоторую последовательность собеседований, что даже я сталкивался с пайплайнами, где разделяются отдельно теория классического ML (на этом собесе мы обсуждали разные задачки по классике) и отдельно теория по одному из направлений (конкретно на этом собеседовании мы обсуждали архитектуру трансформеров). При этом бывали и собеседования, где буквально спустя минут 10 обсуждения классики мы переходили к более узким вещам (этот пример был кстати по CV).

Вообще, существуют некоторые общие паттерны таких собеседований. Например, сначала идет разговор про задачи, которые решаются в данной дисциплине. Одновременно с этим идет разбор архитектур моделей, применяемых для решения данных задач. Далее возможно погружение в особенности одной из архитектур. Возможно, нужно будет объяснить, почему здесь применяется именно такой лосс и именно такой оптимизатор. Обязательно также вопросы коснутся существующих датасетов для обучения моделей. Неизменным атрибутом также будет погружение в ту задачу, для которой завели эту вакансию. Также разговор коснется и применяемых вами фреймворков. Это некоторые общие моменты.
Здесь дополнительно хочу отметить, что для начальных позиций такие собеседования встречаются реже, но все же бывают.

Далее я попробую разделить области знаний на узкие темы типа:

1. CV

Обычно начинается с легким обзором существующих в компьютерном зрении задач и примерным обсуждением архитектур, применяемых для решения конкретных задач. Например, здесь точно нужно знать ответ на вопрос, какая архитектура применяется для детекции? Подробнее про задачи можно почитать тут: 1 и 2.
Дополнительно к тому пайплайну, что я описывал, возможно будут обсуждаться трейд-оффы в применении той или иной архитектуры. Нужно будет обязательно пояснить, почему для real-time детекции нам важно иметь большую скорость инференса и каким образом это можно получить. Возможно разговор также пойдет про квантизацию сетей, применение разных фреймворков для конвертации (типа ONNX), либо для оптимизации (TensorRT). Не уверен, что для начальных позиций это действительно важно, но есть вероятность даже обсудить железо и установку CUDA.

2. NLP

Здесь также верхнеуровнево будет обсуждение задач, где вообще например применяются наши модели - машинный перевод, суммаризация, поиск именованных сущностей и подобное. Может обсудите типичный пайплайн решения таких задач. Потом либо вы сразу перейдете к обсуждению архитектуры трансформеров, либо возможно пробежитесь по олдовым и выдержавшим время архитектурам типа word2vec. Из интересного наверно обязательно нужно будет обсудить принцип работы LLM и назвать какую-нибудь свою любимую статью. Вообще здесь очень все зависит от того направления, где вы собираетесь работать. Поэтому заранее предположить, что спросят, невозможно, но все же базу понимать нужно.

Продолжение ниже ⬇️

#interview #dl #cv #nlp #rl