📍Конференция прошла в Сеуле с 6 по 11 июля.
🔆На основном треке Андрей Веприков, исследователь Sber AI Lab и Brainlab представил статью: Softsign: Smooth Sign in Your Optimizer For Better Parameter Heterogeneity Handling
Авторы предложили два новых оптимизатора - SoftSignum и SoftMuon, которые плавно заменяют жёсткий знак в Sign-оптимизации. Это позволяет адаптивно регулировать размер шага для разных частей модели: на ранних этапах - быстрые шаги, на финальных - точная настройка.
🔆На воркшопах Андрей Савченко, директор по науке, Sber AI Lab и Николай Никитин, ИТМО представили две статьи:
1️⃣ On-Demand Multi-Agent Workflow Synthesis for Multimodal Long-Horizon Reasoning (SCALE Workshop) - подход для синтеза мультиагентных workflow под запрос, адаптирующийся к сложным мультимодальным задачам.
2️⃣ AutoJudge: Automatic Generation of LLM-Based Judges from Execution Traces (FAGEN Workshop) — метод автоматической генерации LLM-судей на основе трейсов выполнения для ускорения инференса и оценки качества.
🔥- если считаете, что три работы на главной конференции по ML это крутой результат.
❤ @sb_ai_lab
#icml