🚀 Liquid AI выпустила LFM2.5-24B-A2B: 2B активных параметров для агентов
Liquid AI выложила на Hugging Face LFM2.5-24B-A2B — open-weight MoE-модель на 24B параметров, из которых на каждый токен активируются только 2B. По данным Hugging Face, архитектура унаследовала 40 слоёв и 64 эксперта с top-4 роутингом, но контекст расширили с 32K до 131K токенов, а словарь — с 65K до 128K, что улучшает работу с нелатинскими алфавитами, включая кириллицу. Предобучение выросло с 17T до 33T токенов, плюс 2.3T на промежуточное обучение с фокусом на рассуждения, математику и длинный контекст.
Главное отличие от предшественника — модель теперь предназначена только для рассуждений: перед ответом всегда генерирует явную цепочку рассуждений. Благодаря малому числу активных параметров каждый токен рассуждений обходится дёшево, а скорость впечатляет: 184 токен/с на Apple M5 Max, 114 токен/с на Ryzen AI Max+ 395 и до 21K выходных токенов/с на одном NVIDIA B300 при высокой конкурентности.
На бенчмарках LFM2.5-24B-A2B сравнивали с Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it и Nemotron-3.5-Lightning — все они крупнее по суммарным и активным параметрам. Тем не менее Liquid AI лидирует или держится на уровне в 5 из 8 агентных тестах: AutomationBench 27.69 против 8.72 у Qwen, LiveClaw 48.09 против 38.19, ToolSandbox 80.71 против 75.02. Уступает на задачах, требующих обширных знаний (GPQA Diamond 74.42 против 83.69) и кодинге (SWE-Bench Verified 51.0 против 66.2), поэтому для фактологических нагрузок рекомендуют добавлять retrieval или web search.
Практически модель доступна сразу в llama.cpp, MLX, vLLM, SGLang и ONNX, а запустить её как бэкенд для агентных харнессов вроде Hermes Agent или OpenClaw можно через OpenAI-совместимый сервер. Код загрузки через transformers требует версии не ниже 5.0.0, но для работы с цепочками рассуждений стоит учесть повышенный расход выходных токенов на промежуточные шаги.
Трёхкратный отрыв в AutomationBench при 2B активных параметрах — сильный сигнал, что для использования инструментов важнее специализированная агентная тренировка, чем масштаб. Но абсолютный результат 27.69 всё ещё невысок, а сильная зависимость от retrieval для знаний означает, что автономный локальный агент пока остаётся гибридной системой: маленькая быстрая модель для действий плюс поиск или API для фактов.
#LiquidAI #LFM25 #MoE #agents #ondevice
Post #363
5