Препринт Gryphon)

https://arxiv.org/abs/2606.08604

Ключевое: объединили архитектурно генеративный ретривал на Semantic IDs с ранжированием и задеплоили с успешным А/Б.

Если судить по препринтам, именно в таком сочетании - первые в мире)

Тут конечно нужна очень важная оговорка: "To the best of our knowledge, ...". Я вполне могла за последний месяц что-то пропустить в экспах-докладах-статьях. Делитесь в комментах, если это так.

Например, пропустила статью от Pinterest, которая вышла за пару дней до моего доклада "UniPinRec: Unifying Generative Retrieval and Ranking at Pinterest Scale".

В чём ключевые отличия:
1. В архитектуре Pinterest нет генеративного ретривала, как его опредeлил в своё время Google в "Recommender Systems with Generative Retrieval". Авторы используют двухбашенную архитектуру в части кандгена
2. Pinterest использует BCE головы на разные бинарные таргеты в стандартной индустриальной постановке задачи для ранкера: feedback prediction. Мы в статье показываем результаты обучения ранжирования на InfoNCE для задачи next-item prediction.

В чём ключевые сходства:
1. Зашаренный энкодер для кандидато-генерации и ранжирования с KV-cache, объединённое обучение двух задач, request-level организация обучающих сэмплов, cross-attention ранжирование. Подходы один-в-один
2. Подобные архитектуры нацелены на то, чтобы предложить альтернативный (или дополняющий) подход к end-2-end генеративным рекомендациям на базе RL. При первых успехах этими архитектурами хочется делиться с коммьюнити. Однако завести их в end-2-end задаче всё ещё непросто и требует большого количества экспериментов. Поэтому и мы, и Pinterest показываем результаты АБ не в end-2-end сценарии, а в более простом и тем не менее очень важном: мы заменяем весь стек вплоть до финального ранкера.

Ждём больше работ с подобными подходами) Мы статью подали на CIKM в short paper track.

PS. Ребятам, с которыми мы вместе работаем - вы лучшие ❤️!