SONA > ARGUS

Кажется совсем немного времени прошло с анонса Аргуса со всеми его возможностями, а оказалось уже прошло почти полтора года!

А на днях произошло интересное - коллеги из Яндекса выкатили Sona, собственную генеративную модель, которая берет на себя весь цикл подготовки рекомендаций, начиная с подбора кандидатов из миллионов вариантов до их ранжирования.

В недельном A/B-тесте на Моей волне в умных колонках с Алисой Sona заменила действующий рекомендательный каскад, включая ARGUS. В тестовой группе время прослушивания выросло на 6,3%, количество просьб повторить трек - почти на 18%, а аудитория активных слушателей - на 4,5%.

Прирост последней метрики оказался в 2,4 раза больше, чем от предыдущего внедрения ARGUS на этой же поверхности!

Удивительно, как мы быстро движемся к новым парадигмам. Все привыкли, что рекомендации готовит целый конвейер моделей. В Моей волне только на этапе подбора кандидатов работали 15 основных и несколько вспомогательных моделей. Дальше очевидно предранжирование и ранжирование с сотнями признаков. Новый подход в Sona позволил заменить весь этот каскад одной нейросетью и при этом улучшить результаты. Например, модель не требует ручного подбора сотен признаков: полезные закономерности она учится находить в истории действий пользователя: прослушиваниях, пропусках, лайках и возвращениях к трекам.

На открытых публикациях подобных моделей в рекомендациях нет, и Sona стала первой в мире моделью, которая одновременно заменяет весь рекомендательный каскад и ручные признаки одной нейросетью end-to-end.

Ждем, когда прогнозные модели станут такими же!

По архитектуре:

▫️Общий энкодер один раз обрабатывает историю пользователя, а получившееся представление используют и декодер, предлагающий кандидатов, и модуль ранжирования, определяющий их порядок. Обе задачи совместно обучают энкодер.

▫️Треки заранее получают короткие коды, учитывающие аудио, метаданные и закономерности прослушивания. По истории пользователя Sona последовательно генерирует элементы таких кодов, а система сопоставляет их с композициями в каталоге. Модель генерирует рекомендации на существующую музыку.

▫️Большой ранжировщик, обученный на данных за год, оценивает кандидатов, а Sona учится воспроизводить его оценки. Учитель используется при обучении; в финальной выдаче подбор и ранжирование выполняет сама Sona.

▫️Модель учитывает до 8192 событий, глубже обрабатывая последние 2048. Это помогает сохранить информацию о давних предпочтениях и уделить больше вычислений свежим действиям.

ARGUS усиливал существующую каскадную систему рекомендаций. Sona продолжает его идеи, но в эксперименте заменила и ARGUS, и остальные модели каскада

Sona протестирована на Моей волне на устройствах с Алисой и пока не раскатана на весь трафик. Продолжаются долгосрочный эксперимент и тестирование других сценариев Музыки - и по их результатам будут принимать решение о дальнейшем внедрении.

Легендам из R&D рекомендации, Яндекс Музыки, команды Алисы привет💪🏿

Техрепорт тут

#recommender