🚀 PrismML показала локальную VLM для очков на Snapdragon AR1

На Qualcomm Snapdragon Summit 24 сентября показали 1-битную Bonsai LLM от PrismML — версию на 2 млрд параметров, предназначенную для зрения и языка, которая работает локально на платформе Snapdragon AR1 Gen 1. Компанию основали исследователи из Caltech, в числе советников — Ион Стоика из UC Berkeley. По данным TechCrunch, демонстрационный образец отвечал на вопросы о том, что пользователь видит перед собой, без обращения к облаку.

Ключевая заявка PrismML — сжатие более крупных моделей в 4 раза с почти полным сохранением результатов на стандартных тестах. Для очков это обернулось моделью на 2 млрд параметров, но конкретных цифр — ни MMLU, ни задержки, ни потребления памяти — источник не приводит. Это заявление производителя, а не независимое измерение.

Открытых весов или интерфейса для этой версии в тексте нет: модели с открытыми весами упомянуты как отдалённый план, а не сегодняшний выпуск. Для русскоязычного сообщества, которое адаптирует VLM для энергоэффективных SoC, интересен сам 1-битный формат Bonsai, но без файла модели и без очков его не с чем перепроверить. Пока ни одно устройство с PrismML не анонсировано.

Это не выпуск модели, а появление на эталонной платформе Qualcomm: PrismML получает витрину перед производителями очков, а разработчик — ни интерфейса, ни весов, ни независимых тестов. Локальная VLM в очках станет продуктом только после анонса устройства с моделью в эксплуатации, а не после демонстрации на Summit.

#PrismML #Qualcomm #SnapdragonAR1 #OnDeviceAI #VLM