The Information: Стартап PrismML уменьшил Qwen 3.6 до размеров, позволяющих запускать модель на iPhone 17 Pro

– Самые большие модели слишком громоздки для запуска на смартфонах
– Модель PrismML может выполнять задачи чата, мышления, кода и др.
– Глава стартапа верит, что в будущем модели будут работать на смартфонах
– Через три года 95% необходимой информации будет доступно локально
– Только 5% высокотехнологичных данных продолжать храниться в облаках
– Уменьшение размера моделей в корне может поменять экономику ИИ
– Khosla Ventures поддержал стартап из-за «фундаментального прорыва»
– Стартап утверждает, что метод минимизации не влияет на качество
– PrismML удалось уменьшить размер Qwen 3.6 до менее 4 ГБ с около 54 ГБ
– Стартап является «дочкой» Калифорнийского технологического института
– Патенты принадлежат институту, лицензия выдана только PrismML
– Подход PrismML по уменьшению моделей может заинтересовать Apple
– Запуск моделей на смартфоне обеспечивает конфиденциальность данных

@ftsec