Ученые Центра ИИ МГУ разработали новые стратегии генерации рекомендаций, которые улучшают качество Top‑K предложений на длинном горизонте

Исследователи Центра ИИ МГУ с коллегами из Лаборатории ИИ Сбера и Сколтеха показали, как различные стратегии авторегрессионных предсказаний влияют на качество прогноза взаимодействий пользователя в задачах последовательных рекомендаций на длинном горизонте. Ученые показали, что стандартные для языковых моделей подходы ведут себя в этом контексте нестандартно и могут ухудшать качество долгосрочных предсказаний. Авторы предложили новые методы объединения нескольких траекторий прогноза, которые позволяют модели на основе GPT‑2, обученной в формате next‑item предсказания, более точно восстанавливать будущие действия пользователя на несколько шагов вперед. Такой подход улучшает метрики качества без изменения архитектуры модели и может быть использован в реальных рекомендательных сервисах. Результаты работы опубликованы в журнале User Modeling and User-Adapted Interaction.
​
В классических последовательных рекомендательных системах модель обычно предсказывает только один следующий объект, хотя в реальных стриминговых сервисах важно понимать поведение пользователя на несколько шагов вперед. Многошаговый прогноз позволяет оценивать, как пользователь будет взаимодействовать с контентом в более длинной перспективе, и лучше адаптировать стратегию рекомендаций под его интересы.
​
В работе представлены две новые стратегии: Reciprocal Rank Aggregation (RRA) и Relevance Aggregation (RA). В обоих случаях модель несколько раз авторегрессионно прогнозирует будущую последовательность, после чего полученные траектории объединяются в единый многошаговый прогноз.
​
Авторы работы протестировали предложенные стратегии на нескольких реальных наборах данных из разных доменов, включая кино, отзывы и игровые платформы. Эксперименты показали, что многошаговые стратегии с агрегацией траекторий (RRA и RA) превосходят как простое Top‑K предсказание, так и схемы авторегрессионой генерации без агрегирования, особенно на длинных горизонтах. При этом подход не требует изменения архитектуры модели или переобучения нескольких вариантов и может быть непосредственно интегрирован в существующие системы на основе авторегрессионных трансформеров.