SIGIR'26 (часть 1): дни 1–2
Уже прошли 2 из 5 дней SIGIR'26. Поскольку официальное открытие было только во второй день, решил объединить первые два дня в один пост. SIGIR устроен примерно как и многие другие конференции: в первый день проходят туториалы и Doctoral Consortium, затем три основных дня с докладами и постерными сессиями, а в последний день воркшопы.
В первый день я сходил на два туториала: LLM Personalization и IR & Reasoning.
Про LLM Personalization рассказывала большая команда из нескольких азиатских университетов, включая NUS. С частью ребят я был знаком ещё с одной из конференций в 2024 году. Главная мысль туториала заключалась в том, что персонализация это не просто добавить историю пользователя в промпт. Авторы предложили рассматривать её как полноценный стек из нескольких частей: память, архитектура модели, alignment, test-time scaling и deployment. Больше всего мне запомнилась их предложение отойти от one-size-fits-all парадигмы и использовать для разных сценариев отдельные адаптеры, которые и отвечают за персонализацию. Похожую мысль буквально неделю назад видел в рилсах про работу Meta, связанную с моделированием человеческого мозга :)
На втором туториале про IR & Reasoning выступала команда Мартина из UvA. По моему субъективному мнению, его лаборатория одна из немногих в Европе по Information Retrieval, которая занимается действительно интересными вещами. Больше всего запомнился анализ того, что именно RL даёт моделям для reasoning. Рассказывали, что RLVR не сильно меняет top-k ответы модели, а лишь немного поднимает вероятность уже хороших результатов. Были и отсылки к философии и 12 типам рассуждений. На мой вопрос о том, достигнет ли модель AGI, если в совершенстве сможет освоить все эти типы, Мартин ответил, что тогда другие модели нам уже просто не понадобятся. Ждём и надеемся! Ещё поговорили про Implicit Reasoning. Он сказал, что лично верит в это направление и его команда уже им занимается. Пока основная проблема в том, как заставить модель действительно рассуждать с помощью латентных токенов, а не просто использовать их как ещё одно скрытое представление.
Был еще забавный момент был, когда на вопрос: “Can Bayesian methods enhance the reasoning capabilities of LLMs?” ответили: “Probably” :)
Оставшуюся часть первого дня провёл за нетворкингом: старался ловить людей из индустрии и узнавать, чем сейчас занимаются их команды. Многие активно инвестируют в Generative RecSys, что довольно ожидаемо. Самыми скрытными и труднодоступными оказались ребята из OneRec Team в Kuaishou. Для них буквально было специальное время, когда инженер из из команды посетит конференцию.
Во второй день прошло официальное открытие. Его можно увидеть на фото в посте.
Был keynote от бывшего Principal Engineer с примерно 20-летним опытом работы в Microsoft на тему "Towards Critical IR Theories and Practices". Там обсуждали технофеодализм, связанные с ним проблемы и то, как с этим можно жить. В качестве одного из решений предлагалось создавать независимые, unbiased и trustworthy рекомендательные системы. Идея оказалась очень похожа на то, что мы с ребятами придумали почти год назад на RecSys Summer School. Но открытый вопрос остался тем же: как сделать такую систему массовой и реально донести её до пользователей?
Оставшееся время я провёл в зале с постерами, где были работы из research, reproducibility и resource tracks. Больше всего запомнился постер инженера из Booking/Aampe про Off-Policy Evaluation. Работа оказалась довольно похожа на нашу, про которую я писал пару постов назад. По постеру показалось, что их метод можно рассматривать как частный случай нашего подхода. Ещё увидел постер с идеей проекта, которую больше полугода назад давал своим студентам на практике про использование LLM для улучшения контентного эмбеда в сценарии с предсказаниями semantic IDs. Надо было самим довести её до ума, и сейчас была бы ещё одна публикация на конфе :)
P.S. Места в посте не хватает, в комментариях допишу и добавлю статистику
Post #31
659









- ❤ 16
- 🔥 10
- ⚡ 4
- ☃ 1
- 👾 1