TGViewer
Channel Public Channel
BRAIn Lab: Optimization and Beyond

BRAIn Lab: Optimization and Beyond

@brainlaboratory

Канал лаборатории фундаментальных исследований ИИ.
В фокусе: оптимизация в ML, GenAI, математика ИИ, ИИ для науки, федеративное обучение.
Научный руководитель: Александр Безносиков @abeznosikov
Subscribers
1.16K
Photos
261
Videos
8
Links
77

Showing posts older than #270 · Back to latest

Older Posts 6 shown
Post #267 1.21K
Делимся итогами ICML совместно с ШАД ⚡️

Наши ребята возвращаются из Сеула, и уже в четверг сотрудники BRAIn Lab Дмитрий Феоктистов и Егор Петров выступят на митапе ШАД и поделятся инсайтами с прошедшей конференции!

🤗Регистрация на митап по ссылке.

А еще скоро расскажем о впечатлениях ребят и о том, что успела сделать команда на конференции и посмотреть в Южной Корее!

Аннёнхасэё (안녕하세요)!
Telegram Все в ШАД! Завершилась ICML 2026 — давайте встретимся и обсудим конференцию 👀 🗓 Приглашаем 16 июля в 17:30 на открытый митап на площадке московского ШАД (Москва, БЦ «Мамонтов», 1 этаж, ШАД) Исследователи Yandex Research, ШАД, ФКН НИУ ВШЭ и BRAIn Lab вернутся из Сеула…
  • ❤ 17
  • 🔥 5
  • 👍 2
Post #261 1.24K
Приехали!
  • ❤ 32
  • 🔥 17
  • 👍 2
  • 💔 1
Post #259 1.18K
🇰🇷 Едем на ICML 2026 в Корею!

Команда уже в пути для участия в одной из самых престижных конференций по машинному обучению.

📄 4 статьи лаборатории приняты в основной трек конференции:
▪️ One-Step Gradient Delay is Not a Barrier for Large-Scale Asynchronous Pipeline Parallel LLM Pretraining
▪️From Optimization to Generalization under Heavy-Tailed Data: The Role of Gradient Clipping
▪️Softsign: Smooth Sign in Your Optimizer For Better Parameter Heterogeneity Handling
▪️Gradient-Free Approaches is a Key to an Efficient Interaction with Markovian Stochasticity


🛠️Также мы участвуем в двух воркшопах:
1️⃣Workshop on Connecting Low-rank Representations in AI
▪️Tensorion: A Tensor-Aware Generalization of the Muon Optimizer - совместно с ВШЭ

2️⃣Workshop on Weight-Space Symmetries
▪️Hierarchical Mixture-of-Experts with Two-Stage Optimization
▪️Rethinking the Role of Tensor Decompositions in Post-Training LLM Compression
Analyzing Stream Collapse in Hyper-Connections: From Diagnosis to Mitigation


*️⃣Две из принятых статей написаны с коллегами из Yandex Research, небольшой разбор они публиковали в своем канале

До встречи в Сеуле! 👋
  • ❤ 24
  • 🎉 12
  • 🥰 8
  • ⚡ 3
  • 😁 1
Post #250 1.26K
Разбираем нашу новую работу по защите прав потребителей

Complaint Warrior: Multi-Agent Framework for Consumer Advocacy

[демо]
[система]

Когда потребитель сталкивается с проблемой, спор редко ограничивается одним письмом или одним звонком.

Переписка разбросана между email, банком, службой поддержки, регуляторами и иногда судом. В результате человек теряет контекст быстрее, чем компания, у которой весь процесс давно формализован.

Большинство современных AI-ассистентов эту проблему не решают. Они помогают искать информацию и отвечать на вопросы, но не умеют выстраивать стратегию спора.

💡 Что мы предлагаем?

Complaint Warrior рассматривает жалобу как длительный переговорный процесс с несколькими сценариями развития.

Система объединяет документы, переписку, звонки, требования и историю взаимодействий в единое состояние спора (Shared Dispute State), после чего специализированные AI-агенты совместно строят стратегию защиты интересов потребителя.

Внутри работают отдельные агенты для:

🔵юридического анализа
🔵переговоров
🔵работы с банковскими спорами и chargeback
🔵сбора доказательств
🔵социальной эскалации
🔵прогнозирования поведения компании

На основе всей накопленной информации система оценивает:

🔸вероятность компромисса
🔸склонность компании затягивать процесс
🔸чувствительность к репутационным рискам
🔸юридические риски
🔸вероятность успешного возмещения

После этого Complaint Warrior предлагает дальнейшие шаги: от переговоров и demand letter до chargeback, обращения к регулятору или подготовки судебных документов.

Особенно интересно, что все сценарии строятся на одной доказательной базе. Пользователю не нужно заново собирать документы при переходе от переговоров к банку или суду — система сохраняет и связывает весь контекст спора.

📊 Результаты на датасете из 1200 потребительских споров:

🔵Resolution Success Rate

81% против 58% у традиционного CRM-подхода

🔵Settlement Success

76% против 54%

🔵Среднее время разрешения

6.8 дня против 12.4 дня

🔵Structured Evidence Quality

0.87 против 0.61

🔵User Satisfaction

0.91 против 0.68

Complaint Warrior — это попытка перейти от customer-service automation к consumer advocacy automation.

Не чат-бот, который отвечает на вопросы.

А система, которая помогает собирать доказательства, выстраивать стратегию переговоров, инициировать chargeback, готовить обращения регуляторам и сопровождать спор до его завершения.

👆 В карточках — как multi-agent система превращает разрозненную переписку и документы в последовательную стратегию защиты прав потребителя.

#разборстатьи@brainlaboratory
  • 👍 3
  • ❤ 2
  • 😁 1
  • 🌚 1
Post #249 988
BRAIn Lab: Optimization and Beyond Приглашаем на семинар: «Глобальный иерархический оптимизационный алгоритм для задач назначения большой размерности» 🎙 Докладчик: Максим Гончаров, Руководитель направления прогнозной аналитики и оптимизации, Axenix 📍 Где и когда: Пятница, 26 июня, 16:00…
Сегодня в 16:00 встречаемся на семинаре с Максимом Гончаровым из Axenix и обсуждаем оптимизацию

📆 Добавить семинар в ваш календарь
🔗 Ссылка на запись семинара

Ждем вас на совместное обсуждение и завершение рабочей недели!
  • ❤ 2
Post #240 1.37K
Разбираем нашу статью, принятую на UAI 2026!

Markovian Compression: Looking to the Past Helps Accelerate the Future

[статья]

Обучаешь модель на куче устройств — и упираешься не в вычисления, а в коммуникации: узлы без конца шлют на сервер градиенты, канал захлебывается. Лечат это компрессией: отправляешь не весь вектор, а кусочек. Самый простой вариант — RandK: берём случайные K% координат, отправляем только их.

Но почти все компрессоры живут без памяти. Каждую итерацию заново тянут случайные координаты, как будто прошлых шагов не было. Одни улетают раз за разом, другие простаивают, а история отправок никак не учитывается. Жалко.

💡 Идея

Завязать выбор координат на прошлые итерации. Формально это марковская цепь — отсюда и название. Под описание попадает целый класс операторов, мы разбираем два:

🔵BanLast(K) — обычная разреженная отправка, но координаты из последних $K$ шагов под временным запретом.
🔵KAWASAKI — то же мягче: недавним координатам не запрещаем выпасть, а просто снижаем вероятность.

Координаты перестают залипать, вектор покрывается ровнее.

⚙️ Куда вставлять

В обычный QSGD — получаем Markovian QSGD, с моментумом — Accelerated MQSGD. Те же операторы живут поверх DIANA и SGD. Своей архитектуры метод не требует: это просто компрессор, который докручивается к тому, что уже есть, и комбинируется с классическими вроде Natural.

📐 Теория

Сходимость доказана сразу для всего класса: оценки выписаны для произвольного марковского компрессора при эргодических условиях. Конкретный оператор подставляется в них со своими константами, теорема одна на всех. Покрыты non-convex, PL и сильно выпуклый случай, ускоренная версия обгоняет базовую.

📊 Цифры:

🔵Логрегрессия (MNIST, LibSVM): обе схемы быстрее RandK, PermK и Natural
🔵ResNet-18 / CIFAR-10: у KAWASAKI train loss 0.0305 против 0.0743, точность 89.05% против 87.9%
🔵DeBERTaV3 / GLUE: та же картина

На простых задачах BanLast и KAWASAKI идут вровень, но чем задача невыпуклее, тем заметнее: мягкое накопление истории бьет жесткий бан. Помнить прошлое полезно, копить память надо аккуратно.
  • 🔥 9
  • ❤ 5
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →