Ivan Oseledets’ Channel

Наши ребята продвинулись в решении одной 30-летней математической задачи (используя ИИ в процессе, конечно). Саму задачу придумал Е.Е. Тыртышников, мой научный руководитель и лауреат научной премии Сбера.

https://www.kommersant.ru/doc/8727455

На прошлой неделе ездил в Питер, выступал на ПМЭФ. Был рад принять участие в нескольких сессиях, спасибо организаторам, модераторам и коллегам за интересные дискуссии. А записи трансляций есть по ссылкам.

1) «Люди для будущего индустрий в мире ИИ» — её организовал Сбер. Поговорили про образование. Рассказал про факультет искусственного интеллекта МГУ, деканом которого являюсь. Считаю, что сейчас на первый план выходит не умение запоминать знания, а реальные навыки и понимание, и на наших программах мы как раз будем учить, в первую очередь, думать и рассуждать.
https://forum-spb.ru/programme/innovation-space/157300/

2) Сессия Минобра «Доступные данные как общественное благо: институциональные условия для прорывных исследований и наукоёмкого предпринимательства в эпоху ИИ» — на ней поговорили, как сегодня корпорации могут участвовать в финансировании систематизации научных данных — что, на мой взгляд, крайне важно, — получая при этом измеримую коммерческую отдачу, и какие модели партнёрства государства и бизнеса здесь уже доказали свою эффективность.
https://vkvideo.ru/video-167915299_456241766

3) «AI First, но не AI Only: новая операционная система мира». Крайне увлекательная дискуссия, которую организовали Авито. Модерировала её, кстати, Ксения Собчак. Высказал мнение, что нам нужно не просто продолжать развивать ИИ и интегрировать его в разлиные процессы, но и делать это более радикально, потому что текущих темпов, на мой взгляд, недостаточно. Если бы мы с такой же осторожностью, как в вопросах, связанных с ИИ, подходили к другим технологиям, то у нас бы до сих пор не было бы, например, авиаперелётов, ведь вначале самолёты очень много падали. И в итоге если мы не будем выходить за пределы, скажем так, обучающей выборки, то у нас никогда не будет прогресса, а нам он нужен, поскольку у человечества есть ещё очень много нерешённых задач.
https://forum-spb.ru/programme/business-programme/156782/

4) В сессии Минздрава «Искусственный интеллект и здравоохранение: старт дан, как извлечь пользу?» обсудили сильный ИИ в медицине. В этой сфере, конечно, мы пока далековато от сильного ИИ, в отличие от той же научной деятельности или написания кода. Пока модели справляются с сопоставлением симптомов и диагнозов, но этого недостаточно: о сильном ИИ в медицине можно будет говорить тогда, когда он научится быстро и качественно помогать в разработке новых лекарств, связывать действительно сложные и редкие случаи заболеваний, уменьшать неопределённость в диагнозе.
https://forum-spb.ru/programme/business-programme/156653/

5) «ИИ в новых материалах: кто заберёт рынок» от Норникеля. Тут говорил о важности целеполагания и правильного подхода к сбору данных. Казалось бы, простая логика: надо заниматься такими материалами, которые наверняка будут синтезированы и полезны бизнесу. Однако большинство тех исследователей, кто занимается поиском новых материалов, делает это просто потому что им нравится. А бизнес при этом не хочет менять отлаженные процессы, если и так всё неплохо работает. Но если текущие процессы не приводят к существенному прогрессу, то их нужно менять. И учёным тоже нужно не бояться браться за сложные задачки. Иначе мы так и будем нуждаться в постройке дома, и при этом создавать только супер-топоры и продвинутые пилы, что в реальности не приведёт к прогрессу.
https://forum-spb.ru/programme/business-programme/156677/

Первый день ПМЭФ подходит к концу. Выпустили сегодня первую версию модели из нашего семейства Optimal Cognitive Core, OCC-RAG. Это компактная SLM для Q&A по контексту. Модель доступна в 2 размерах: 0.6B и 1.7B. Несмотря на маленькое число параметров обе уверенно отвечают на сложные multi-hop вопросы, рассуждают пошагово и корректно, отказываются отвечать, когда контекста недостаточно.

Как мы этого добились?

1. Сложные синтетические данные.

Открытые QA-датасеты, как правило, маленькие и не таргетируют задачу faithfulness. Модели учатся отвечать, но не всегда следовать контексту. Поэтому мы построили собственный пайплайн генерации данных: с помощью метода Wikontic (https://t.me/Ivan_Oseledets/283) извлекаем граф знаний из текстов и генерируем вопросы по путям в этом графе. Получаются по-настоящему сложные multi-hop задачи, где нужно объединить факты из нескольких источников, например: «В каком городе родился режиссёр фильма, получившего Оскар в год рождения Леонардо ДиКаприо?». Дополнительно пайплайн умеет генерировать вопросы, на которые в контексте нет ответа, чтобы отдельно учить модель отказываться.

В итоге наш метод позволяет генерировать данные из любых неструктурированных документов в почти неограниченном количестве!

2. Mid-training

В качестве базы взяли Qwen3-0.6B-Base и Qwen3-1.7B-Base и провели масштабный mid-training на пороядка 8 млрд токенов. Мы также дополнили данные специальным форматом рассуждения, который цитирует источники прямо в ответе. Это дополнительно повышает faithfulness.

Прогнали OCC-RAG на HotpotQA, MuSiQue и TAT-QA. Добавили ConFiQA, один из самых сложных бенчмарков на faithfulness, где модель должна следовать контексту, даже если он противоречит общеизвестным фактам.

Итого:

Качество на уровне моделей в 2–6 раз больше по размеру; на ConFiQA обходят даже Qwen3-32B; заметно лучше следуют контексту и реже подменяют его внутренними знаниями; среди специализированных малых QA-моделей (например, Pleias-RAG) показывают лучший результат.

Репорт на HuggingFace Daily Papers: https://huggingface.co/papers/2606.00683

Отмечу, что работа по согласованности, четкости и скорости в команде — эпичная. Продолжаем работать над улучшенной версией для tool-calling и Agentic RAG задач.

Ждите обновлений!

P.S. Не успел выйти с форума, уже увидел новости у ТАСС, РГ, в телеграм, Forbes, Код Дурова, много где. Радует, когда наши медиа следят за повесткой, реагируя не только на «что-то новое от Гугла».

Кстати, про значимость малых моделей сегодня как раз хорошо написал Андрей Себрант из Яндекса. Почитайте — https://www.forbes.ru/mneniya/562028-maly-da-udaly-pocemu-vazny-ii-modeli-kotorye-sovsem-ne-na-sluhu

Мы с ИТМО открыли две новые лаборатории — соглашение подписали сегодня в Санкт-Петербурге

В одной, цифрового дизайна и моделирования макро- и супрамолекулярных комплексов, учёные будут разрабатывать ИИ-модели, способные предсказывать поведение молекул в составе сложных систем.

В другой, «Мультиагентный интеллект и адаптивные системы», будут разрабатываться «умные» мультиагентные ИИ-системы.

Рады вместе с ИТМО двигать технологии ИИ вперёд и готовить новое поколение исследователей!

Отпуск.
На майские очень хорошо съездили отдохнуть. Концепция поездки была основана на личных предпочтениях (хорошая еда, красивые виды, спокойствие, не холодно, не жарко, поездка на машине). Как спланировать? Конечно же, ИИ! В итоге весь план целиком написал Claude, и получилось это у него прекрасно. Более того, не было никаких агрегаторов: всем письма с просьбой выдать спец. предложения отправлялись по почте — и это работает!

В это время года на первое место вышла Северная Италия. И вот что получилось. Первые 2 дня в самом Милане, через консьержа отеля даже удалось ухватить 2 билета в La Scala на премьеру (что вообще бывает редко, там по сайту ожидание полгода) + ужин в Seta. Посетили несколько музеев. Повезло застать интересные выставки: наследие Армани в сочетании с постоянной экспозицией Пинакотеки Брера и масштабная выставка Кифера «Алхимички».

Дальше ИИ отправил нас во Франчакорту — родину итальянского шампанского, отель L'Albereta. Потрясающий вид на виноградники. Вообще в каждом месте хотелось остановиться, ничего не делать и просто отдыхать.

После — озеро Комо и Grand Hotel Tremezzo с шикарными видами. Гвоздем программы стал Castel Fragsburg, в котором всего 27 номеров, расположенный около Мерано (это уже Южный Тироль): из-за климата здесь растут пальмы, но вид — на Альпы, где еще видны остатки снега.

Ну а в качестве special event ИИ нашёл совместный ужин Norbert Niederkofler + Quique daCosta. Сам ресторан в Top-50 лучших ресторанов мира. У одного 3 звезды Мишлен + 1 зелёная, у второго тоже 3. Формат тоже был новый, как будто пришёл в гости, сначала на улице, потом за общим столом. С шефами говоришь «как в гостях», все были в России много раз, очень тепло отзываются о нашей стране.

Дальше — озеро Гарда (очень красивое место), Villa Cordevigo — снова виноградники, уже сорт вина — Oseleta, (почти Oseledets!), естественно, купили. Ну и обед был полон итальянской классики.

В финале Claude привёл нас в Casa Maria Luigia, и последние 2 места — в Osteria Francescana. Большое спасибо! Этот ресторан признавался лучшим рестораном мира в 2016 и 2018, а сам шеф — Massimo Bottura — лучшим шефом мира. Комбинация замечательная — загородный дом, по которому ходишь как дома, отличный дизайн, музыкальная комната, коллекция мотоциклов и автомобилей. Концепция ресторана — сидим за общими столами и общаемся. С нами было 2 пары: одна из Сан-Франциско, вторая из Сингапура. Оказалось, что первая использовала ChatGPT, вторая — Gemini, ну и мы с Клодом, и в итоге оказались в одном месте. Ну и сами блюда входили в списки «лучшие за 10 лет». Ну а регион — родина уксуса из Модены, пармезана, мортаделлы.

Удивительно, как на достаточно небольшой территории вокруг Милана (2-3 часа на машине) сконцентрировано такое количество интересных мест — культурные, гастрономические, исторические. Огромное наследство досталось. У нас есть места в России, где не хуже и даже лучше, но много ещё предстоит сделать!

Сегодня исполнилось 80 лет Александру Петровичу Кулешову!

Александр Петрович, я работал с Вами в течение последних десяти лет, с момента Вашего прихода в Сколтех в качестве ректора. За это время произошло много знаменательных событий, вырос масштаб и уровень решаемых задач, Сколтех заслуженно занял лидирующие позиции по многим направлениям в области ИИ. Особо отмечу Вашу роль в создании и развитии нашего института: более 30% сотрудников AIRI являются студентами, аспирантами и сотрудниками Сколтеха.
 
Мы многому научились у Вас: как строить научные коллективы и управлять ими, как формулировать большие задачи и мотивировать ребят на их решение.

Очень надеюсь на дальнейшее плодотворное сотрудничество. Желаю, в первую очередь, здоровья, и уверен, что Ваш талант и знания ещё долго будут приносить пользу нашей стране.

Исследователи AIRI представили модель, которая может запоминать многое, не увеличивая потребность в вычислениях

Робот часто видит важную информацию задолго до того, как её необходимо использовать. Если система не умеет надёжно хранить и вовремя извлекать данные, ей трудно действовать в сложной и меняющейся среде. Обычные трансформеры решают эту задачу не полностью: одни модели становятся слишком дорогими по вычислениям, другие плохо контролируют, что именно забывается.

В ELMUR каждый слой содержит фиксированное количество слотов памяти, которые параллельно взаимодействуют с основным потоком данных. Система может читать информацию из этих ячеек, когда принимает решение, и записывать туда новые данные. Если память начинает заполняться — обновляются те ячейки, которые использовались реже всего. Это даёт ИИ компактное, но устойчивое хранилище, которое может удерживать важную информацию на протяжении 100 тысяч шагов за пределами обычного окна внимания.

О разработке рассказали на ICLR 2026.

Научная статья | CNews

Второй раз получаю премию Билайна AI AWARDS — в этом году в номинации «Личный вклад в развитие ИИ».

Наверное, всё делаем правильно, раз наш вклад и сама нейросеть отмечает. Будем двигаться дальше.