Meta выложила ИИ-модель на 816 млрд параметров, и её запустили на двух Mac
⠀
Meta открыла Muse Spark Open: модель можно скачать целиком и запустить у себя, а не только спросить через чат. Сама Meta называет её самой сильной открытой ИИ-моделью из США.
⠀
Что внутри:
— 816 млрд параметров, из них 42 млрд работают на каждом шаге
— Контекст до миллиона токенов (токен — примерно слово)
— Понимает текст, картинки, видео и звук
⠀
Дома нужны два Mac Studio на M5 Ultra с 512 ГБ памяти или четыре с 256 ГБ. На четырёх по замерам Apple выходит больше 36 токенов в секунду, это быстрее, чем читает человек. Версию на 512 ГБ Apple обещает в конце октября.
⠀
Meta показала модель на этих Mac в деле: она исправляла ошибки и добавляла функции в настоящем приложении для iPhone, а в видеоредакторе DaVinci Resolve сама искала лучшие моменты записи и резала их под вертикальное видео.
⠀
Без своего железа: через OpenRouter, Together AI и других провайдеров, от $1,25 за миллион токенов на входе и $4,25 на выходе. Скачать модель можно на Hugging Face.
⠀
Мелкий шрифт лицензии: пользоваться, дообучать и продавать можно бесплатно, но нужна надпись Built with Muse Spark Open. Компаниям с выручкой больше $20 млн в год, которые продают доступ к модели через API, нужен отдельный договор с Meta.
⠀
Веса бесплатные, а вот полтерабайта памяти под них придётся найти самому.
⠀
RAGNAROK | ИИ и технологии