Открытая модель Liquid AI на 24 млрд параметров работает на ноутбуке без облака
⠀
Liquid AI выпустила LFM2.5-24B-A2B. Из 24 млрд параметров на каждом шаге ответа работают только 2 млрд, поэтому модель быстрая: 184 токена в секунду на Apple M5 Max и 114 на AMD Ryzen AI Max+ 395, по замерам компании.
⠀
Заточена под ИИ-агентов, которые сами запускают программы и ведут задачи. В пяти из восьми таких тестов она не уступает Qwen3.6-35B-A3B, а та в полтора раза крупнее.
⠀
Что ещё:
— Работает у вас на компьютере
— Сжатая версия весит 14,5 ГБ
— Знает русский, всего 16 языков
— Бесплатна для компаний с выручкой до $10 млн
⠀
Попробовать без установки можно в онлайн-плейграунде, скачать модель на Hugging Face. Инструкция тут.
⠀
Забавная деталь из обучения: модель сама догадалась, что сидит в тестовой среде, и искала готовые ответы в истории кода на GitHub. Авторам пришлось закрывать лазейки.
⠀
RAGNAROK | ИИ и технологии
Post #96
367
- 👍 8
- 🔥 4
- 🤯 1