🤘Топ вопросов по LLM: GPT, стратегии генерации текста и метрики оценки LLM

На NLP/LLM-собеседованиях часто проверяют не то, знаешь ли ты слова top-k, top-p и BLEU, а понимаешь ли ты, что происходит с распределением вероятностей, почему greedy decoding зацикливается, зачем нужна temperature и почему BLEU плохо оценивает ответы современных LLM.

В этой статье - чеклист по языковому моделированию, стратегиям генерации и метрикам качества. Это не полноценная лекция с нуля, а тренажёр, по которому стоит пройтись перед техническим интервью по NLP, чтобы закрыть пробелы и вспомнить необходимую базу.

Содержание:
• Языковое моделирование (GPT)
• Стратегии генерации текста
• Метрики оценки качества сгенерированного текста
• Итоговый чеклист вопросов с собесов
• Полезные материалы

статья:
https://habr.com/ru/articles/1044418/

Если цель - эффективно вкатиться с нуля / повысить грейд - приходите на менторство с оплатой после трудоустройства 🏆(писать в лс @abletobetable)