TGViewer
Channel Public Channel
BRAIn Lab: Optimization and Beyond

BRAIn Lab: Optimization and Beyond

@brainlaboratory

Канал лаборатории фундаментальных исследований ИИ.
В фокусе: оптимизация в ML, GenAI, математика ИИ, ИИ для науки, федеративное обучение.
Научный руководитель: Александр Безносиков @abeznosikov
Subscribers
1.12K
Photos
255
Videos
8
Links
76

Showing posts older than #296 · Back to latest

Older Posts 6 shown
Post #290 1.16K
Нишевые летние ивенты: от Байкала до Санкт-Петербурга 🌍

Лето - сезон научных путешествий, и не только заграницу😏. В июле наша лаборатория успела сорваться сначала на берега Байкала, потом - к набережным Петербурга. Два города, три события и разные форматы.

🏔 MOTOR-26

Первая остановка - берег Байкала, где прошла международная конференция MOTOR 2026 (Mathematical Optimization Theory and Operations Research).

Дмитрий Былинкин выступил с докладом "Importance Compression: A New Sparsification Mechanism for Distributed Learning" - о новом механизме сжатия для распределённого обучения.


🔭 Байкальская школа по физике элементарных частиц и астрофизике

Там же заглянули на летнюю школу от Лаборатории ядерных проблем ОИЯИ (Дубна) - она проходила в посёлке Большие Коты, тоже на берегу Байкала.

В программе были лекции по физике нейтрино, гамма-астрономии, астрофизике высоких энергий, командная работа над научными проектами, доклады и постерные сессии. А также поход на гору Скрипер и купание в Байкале 🥶.

Дмитрий Былинкин рассказал, как ML помогает восстанавливать события по данным детекторов - реконструкцию частиц глазами нейросетей. Получился диалог физики высоких энергий и современного AI.


🎓 Летняя школа "Управление, информация и оптимизация" им. Б. Т. Поляка

В Санкт-Петербург BRAIn Lab приехала одновременно и как слушатели, и как спикеры. Традиционная летняя школа объединила классическую теорию оптимизации, прикладной матричный анализ, а также круглые столы про AI Safety, применение ИИ в медицине и нейробиологии.

Наши три доклада на школе:

📌 "WeightLoRA: Keep Only Necessary Adapters" — Владимир Солодкин
📌 "Last-Iterate Convergence of Stochastic Optimization Methods: How to obtain High-Probability Guarantees" — Савелий Чежегов
📌 "Efficient LLM Pre-Training" — Глеб Молодцов

Глеб поделился впечатлениями:

"Я выступил с докладом, где предложил смотреть на оптимизаторы не только через призму сходимости, но и с учетом реальных ограничений по времени учета и памяти. Мне кажется, именно такой взгляд сегодня наиболее актуален для обучения LLM. Было особенно приятно видеть заинтересованность студентов: после лекции мы еще долго обсуждали современные работы, перспективные идеи и открытые вопросы в этом направлении"


Интересно, что еще три года ребята сами ездили на школу слушателями, а сейчас читают лекции, будучи опытными преподавателями и исследователями! 🥹

Что хотим сказать: мир науки - это частые путешествия: новые города, знакомства, рост и постоянный поиск точек, где твои знания оказываются полезны в совсем других областях, поэтому мы продолжаем искать 🔎

И вы присоединяйтесь к нам @brainlaboratory
  • ❤ 14
  • 🔥 10
  • 🤗 2
  • 🎄 1
Post #281 1.18K
Впечатления о поездке на ICML 🎓 Часть 2

В нашей делегации кроме опытных исследователей, которые презентовали свои работы на постерах и воркшопах, были и ребята, которые только начинают путь в науке 🌱 - студенты 2 курса совместной программы AI360 x МФТИ. Они проходят научную стажировку у нас в BRAIn Lab.

Что они рассказывают ⬇️

🟣Анастасия Сомова:
Больше всего понравилась постерная сессия - там было много работ по теме моего исследования.

Круто было не просто читать статьи, а лично обсуждать результаты с авторами. После этих разговоров появилось несколько идей для своей работы.

Помимо конференции, успела погулять по Сеулу, посмотреть достопримечательности и попробовать корейскую кухню 🍜. Специфично, но хотпот зашёл!


🟣Максим Иванов:
Для меня это была первая такая большая конференция - до этого был только на ICOMP 2025, а тут масштаб на порядки больше.

Больше всего понравился туториал по диффузионкам и флоу матчингу в первый день. Тема не моя, но за 3 часа объяснили всё почти с нуля и максимально понятно.

Ещё зацепили работы по агентам и RL - например, Maximum Likelihood RL дал новый взгляд на математику в RL 🧠

Классно понетворкал за шахматами ♟️ в первый день и налутал кучу мерча 🎁

Вне конфы много гулял - например, прошёл от Lotte Tower до отеля 15 км, но ради этого пришлось пожертвовать сном 😅


🟣Андрей Цуканов:
Я приехал на ICML послушать темы, близкие к моему проекту в лаборатории, плюс всё про агентов и RL 🤖

Больше всего запомнились два постера от Google - про ScientistOne и MARS (автономные системы для написания научных статей, возможно скоро появятся в экосистеме Google) 📄

Единственная сложность - общение с китайскими авторами из-за произношения, иногда приходилось переходить на переводчик.

В Сеуле успел побывать в Сеульском парке 🌳 и на территории дворца Кёнбоккун 🏯. Плюс просто гулял с ребятами по улицам, ресторанам и магазинам - всё понравилось!


🟣Николай Виноградов:
Я приехал в Сеул посмотреть на постеры, поговорить с людьми, узнать, кто чем занимается и куда всё движется. Надеюсь, скоро и сам смогу приложить к этому руку!

Впечатлили некоторые работы, где буквально одним движением достигаются большие улучшения. А еще был забавный случай: коллеги рассматривали постер, и тут подошёл человек и заявил, что сам это пробовал, и это не работает, всё обман. И совершенно непонятно, кому верить в такие моменты!

Успел вдоволь нагуляться по Сеулу: посетил Кёнбоккун и Олимпийский парк, прошёлся по улице Мёндон, и просто побродил по улочкам, впитывая местный колорит. Конечно, впечатлила Lotte World Tower - каждый раз, глядя на такое монументальное здание, испытываешь сильное удивление!


Поездки на ведущие конференции - одна из фишек обучения на программе AI360, и ребята ей воспользовались ✈️

Есть вопросы к ребятам?
Задавайте в комментариях 💬
  • 🔥 10
  • ❤ 6
  • 👏 3
  • 🤝 1
Post #280 1K
Обзор поездки в Сеул на ICML от старшего ресерчера BRAIn Lab Глеба Молодцова.

В видео - небольшая пасхалка от OpenAI 💎

Смотрим!
  • 💅 19
  • 🔥 11
  • 😍 3
  • 🤣 2
  • 💘 2
Post #278 1.21K
📹 Материалы BRAIn Lab: записи курсов и репозитории

Если вы слушали курсы нашей лаборатории, то наверняка уже смотрели записи лекций на стримингах.

Но теперь у нас есть нечто большее — мы запустили и будем развивать полноценные каналы на RuTube и YouTube 🚀

Что там можно найти:
🔹 Записи курсов:

— Методы оптимизации

— Машинное обучение

— Глубокое обучение


🔹 Записи научных семинаров лаборатории


🔹 Совсем скоро стартует новый семестр, и на каналах появится 7 новых курсов


🔹 Также скоро добавятся шортсы про конференции и жизнь лаборатории


🔹Если вы занимаетесь исследованиями в области оптимизации, работаете с обучением нейросетей или просто хотите разобраться в математике, стоящей за современными ML-методами — материалы будут полезны и для первого знакомства с темой, и для углубления в детали.

Ссылки:
📺 YouTube
📺 RuTube

Репозитории к курсам:
🗂GitHub
🗂SourceCraft

🟢Подписывайтесь, чтобы не пропускать новые семинары и курсы — контент выходит регулярно 😉
  • ❤ 22
  • 🔥 10
Post #270 1.19K
🌏 ICML 2026 в Сеуле собрала тысячи исследователей, инженеров и энтузиастов со всего мира. Делимся впечатлениями трёх наших сеньор-ресерчеров, побывавших на конференции ⬇️

📌Глеб Молодцов:
На ICML 2026 приехал с тремя воркшопами. После ICLR особенно чувствуется, что конференция стала ещё масштабнее: 👥 людей заметно больше — видимо, не все успели добраться до Рио в прошлый раз.

Отдельно отмечу 🔬 воркшопы по механистической интерпретируемости, эффективности и симметриям весов в LLM — максимальная плотность полезных контактов на квадратный метр.

Из минусов: плотный график и короткие постерные сессии почти не оставили времени на Сеул. Хотя шанхайский тайфун неожиданно подарил нам дополнительные полдня в городе — успели немного погулять по Хондэ и Итэвону, но хотелось бы больше.


📌Андрей Веприков (также исследователь Sber AI Lab):
Поездка в Сеул на ICML мне понравилась 😌, хотя, конечно, после таких поездок нужен отпуск: сначала ходишь по постерам, общаешься с людьми, потом идёшь куда-то гулять, и так каждый день. Но мне все равно понравилось.

🤝 Познакомился с достаточно большим числом людей, с одним zero-order китайским студентом из Michigan State University — уже договорились созвониться с ним и его профессором. Также по одной статье с ребятами из University of Milan долго обсуждал идеи семплинга траекторий в RL, показал им MLMC-батчинг — договорились списаться далее. По похожей тематике познакомились со студенткой профессора Mark Schmidt.

📊 Свой постер мы с Димой Феоктистовым, как мне кажется, рассказали очень хорошо, постоянно говорили с кем-то, многие его сфоткали.

В общем, поездка точно запомнится, будем стараться работать над статьями, чтобы и дальше ездить на A* конференции! 🚀


📌Наиль Баширов:
Приехал на ICML для презентации работы на воркшопе Weight Space Symmetries, а также, чтобы посмотреть на работы, принятые на основной трек по интерпретируемости, эффективности и различным типам оптимизации.

Было очень много тематически релевантных работ, 🤝 общался с большим количеством ресерчеров, нашёл на постерной сессии человека, который 🤯 буквально получил такой же как у нас negative result про тензорные разложения — обсудили, какие прикладные приложения можно использовать, сошлись на том, что Signal Processing и только, остальные ветки DL пока сильно отстают по применимости.

Было очень много людей, которые разбираются в, казалось бы, довольно узких темах. Особенно на воркшопах получилось выстроить крайне конструктивный диалог по многим точкам соприкосновения.

😞 Почти ничего не успели посмотреть в Сеуле — всё время было потрачено на работу и поиск новых идей на постерных сессиях. Посмотрели по базе: дворец, улица Хондэ, сад гробниц, набережную.


Постеры ребят в комментариях 🔺
А если у вас есть вопросы про конференцию или сами работы, задавайте их нам!
  • ❤ 28
  • 👍 1
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →