Liquid AI выпустила мощную модель для локальных ИИ-агентов

Компания представила LFM2.5-24B-A2B — новую модель с 24 млрд параметров, где активно задействовано всего 2 млрд. Это делает её идеальной для быстрой и приватной работы прямо на вашем устройстве.

Модель специализируется на рассуждениях и цепочках мыслей перед ответом. Она обходит конкурентов по скорости: выдает 184 токена в секунду на Apple M5 Max и до 21 тысячи токенов в секунду на GPU NVIDIA B300.

Ключевые особенности:
• Увеличенное до 131 тысячи токенов контекстное окно.
• Расширенный вдвое словарь для лучшей работы с языками.
• Поддержка llama.cpp, MLX, vLLM и SGLang «из коробки».
• Полная автономность: модель отлично справляется с планированием и вызовом инструментов без обращения к облачным API.

Веса модели уже доступны на Hugging Face для свободного скачивания и дообучения.

рекомендуем:
@FoxNewsInRussian