Генеративные рекомендации IV. По полочкам

Как показывали недавно в Праге, под термин «генеративные рекомендации» попадает любая рекомендательная система, которая комбинирует идеи из GenAI и RecSys. То есть примерно всё что угодно)

Где бы ни всплыл термин, ясно только одно: абсолютно непонятно, что имеется ввиду. Вот основные концепции, которые могут подразумеваться, если сократить сферу хотя бы до transformer-based sequential моделей:

1. Генеративная постановка обучения в противоположность дискриминативной. Дискриминативная постановка означает, что модель либо учится решать задачу кандидато-генерации (предсказывает следующий айтем), либо учится решать задачу ранжирования (предсказывает фидбек пользователя для конкретного айтема). Генеративная постановка подразумевает, что модель учится решать обе задачи одновременно.Пример: next-item prediction и feedback prediction в Argus. Анти-пример: оригинальный "Actions…", где идею совместного распределения вероятностей авторы озвучили, но модель учили только на одну из задач, т.е. постановка была дискриминативная.

2. Генеративное обучение в противоположность impression-based. Неудобно конечно, что эту историю тоже назвали «генеративной», но идея вот в чём. Классические ранжирующие модели на нейронках учились предсказывать фидбек на паре юзер-айтем, где айтем реально данному юзеру был в сервисе показан (отсюда “impression”). "Генеративное" обучение ранкера означает, что модель учится предсказывать фидбек сразу на пачке айтемов, обрабатывая историю действий пользователя единожды. Пример: M-Falcon алгоритм из “Actions…”, предсказывающий фидбек для пачки кандидатов. Пример из кандидато-генерации: Shifted-Sequence схема обучения SASRec. Анти-пример: много семплов на основе одной истории, где предсказать нужно только последний айтем в последовательности.

3. Генеративный инференс в противоположность топ-к. Обычный инференс: взяли последний hidden state в SASRec, сделали дот продакт на эмбеды каталога, взяли топ-к айтемов. Генеративный инференс: взяли последний hidden state SASRec, сделали дот продакт, взяли топ-1 айтем, подставили в конец последовательности, прогнали трансформер. Повторили К раз. Стратегии семплирования можно менять. Пример: GPTRec

4. Генеративный ретривал на semantic IDs в противоположность similarity-based ретривалу. Использование Semantic IDS для кандидато-генерации представляет айтем как иерархический набор токенов. На инференсе необходимо предсказать их по очереди по схеме из прошлого пункта. В данном случае используется слой линейной проекции, который отражает последний hidden state декодера в набор логитов для «каталога» семантических айди. Отобранный семантический токен подставляется в конец последовательности для декодера – и процесс повторяется. Пример: TIGER

5. Генеративный end-2-end рекомендательный движок в противоположность каскадным рекомендациям. В каскадной рекомендательной системе есть сущности кандидато-генераторов и ранжирующих моделей. Идея end-2-end движка в том, чтобы инкорпорировать ранжирующий сигнал (или другой релеватный бизнесу reward) сразу в модель, которая выдаёт айтемы - используя RL или псевдо-RL подходы. В идеальном мире это позволяет отказаться от ранжирующих моделей как отдельной сущности. А кандидато-генератор перевоплощается в единую модель: из дискриминативной его задача становится генеративной, ровно как в пункте 1. По сути end-2-end движок генерирует айтемы, делая поправку на reward, который можно получить с них в сервисе. Пример: OneRec

Мои прошлые посты по теме: 1, 2, 3