⭐️⭐️ Как мы сжали эмбеддинги в 8 раз и сохранили 95% качества

Рекламные баннеры в поиске должны быть релевантными. Но как подобрать баннер онлайн, если он содержит новые товары (обычно там сразу целый набор)

Илья Бадекин, Data Scientist в команде товарных рекомендаций Wildberries, рассказал, как решили эту задачу:

— Использовали текстовый энкодер E5 для представления товаров через контент;
— Применили метод Matryoshka Representation Learning для сжатия эмбеддингов с 1024 до 128 размерности;
— Сохранили 95-96% качества при сжатии в 8 раз.

В статье — разбор дорожной карты поиска решения: от PCA и SVD до автоэнкодеров и «матрёшек», с графиками и примерами из продакшена.

➡️ Читать на Хабре