Это вау! Стартап разработчиков с российскими корнями научил ИИ-модели передавать не текст, а внутреннее состояние.

Mostik AI создан за 4 месяца из 15 человек, 12 из которых PhD и лауреат филдсовской премии Станислав Смирнов. CEO проекта - Саша Малышева, экс- DeepMind и Google X.

А инвесторы - General Catalyst и Foundation Capital.

Обычно нейросети общаются как люди: одна пишет текст, другая его читает. Но внутри модель уже всё посчитала, а наружу уходит одно слово.
Остальное выбрасывается.

Mostik AI предлагает такое решение - маленький обученный мостик между скрытыми состояниями двух моделей. Веса самих моделей не трогают. Большая модель читает задачу, отдаёт скрытое состояние, а маленькая генерирует ответ. Текстового пересказа между ними нет.

Сами модели не дообучают.

Например, они взяли модель GLM на 753 млрд параметров и маленькую Qwen на 4 млрд, которую можно крутить хоть на телефоне. Эта связка выходит примерно в 20 раз дешевле полной большой модели, а качество где-то посередине между ними. На сложных задачах маленькая модель с таким мостом заметно умнеет.