💪 Prism ML выпустил тернарную Bonsai 2 27B: 5,9 ГБ и 98,2% качества

Американский стартап Prism ML выпустил тернарную версию модели Qwen3.8-27B под названием Bonsai 2 27B

— Сжатая модель занимает 5,9 ГБ вместо примерно 54 ГБ у исходной в FP16, сохраняет 98,2% её среднего результата на бенчмарках и по-прежнему имеет 27.36 млрд параметров

Модель рассчитана на локальный запуск на потребительском оборудовании, имеет контекст в 262 тысячи токенов и может обрабатывать изображения и вызывать инструменты

Целевые сценарии — агенты в редакторе кода, работа с компьютером, разбор документов без отправки их в облако

🧑‍💻 Этичный хакер