🧠 27B-модель, которая помещается в смартфон

PrismML представила Bonsai 27B — первую 27B-модель, способную работать локально на телефоне.

Главное:

🟣 3,9 ГБ (1-bit) или 5,9 ГБ (ternary) вместо десятков гигабайт;
🟣 мультимодальность, tool calling и агентные сценарии;
🟣 контекст до 262K токенов;
🟣 Apache 2.0.

По данным разработчиков, ternary-версия сохраняет около 95% качества исходной модели, а 1-bit — около 90%.

Если такие модели станут массовыми, сложные AI-агенты смогут работать локально: быстрее, дешевле и без отправки данных в облако.

💡 Подробнее о проектировании таких агентных систем разбираем на курсе «Разработка ИИ-агентов» 🔥

🐸 Библиотека ИИ для айтишников

#neuro_dive