Кажется, у Jev завелась открытая локальная замена — Laya

Laya — это открытая локальная модель для принятия решений, 421 млн параметров. Заточена под структурированные решения: быстрые да/нет, оценка, выбор из вариантов. Жрёт меньше 1 ГБ памяти, лежит бесплатно на Hugging Face, поднимается на ноуте и даже на телефоне.

В тесте её столкнули с облачным Jev: обе гоняли одну и ту же змейку, формат решений одинаковый, 30 секунд. Laya — счёт 46, длина 52, 86,5 решений в секунду, P50 около 9 мс. Jev — счёт 1, длина 7, 3,2 решения в секунду, полный цикл запроса к API 317 мс. На M5 Pro медиана вышла 15,3 мс у локальной Laya против 298,1 мс у облачного Jev — разница в этом тесте почти 20-кратная. Суть в том, что Laya решает всё на месте, а Jev на каждом шаге торчит в ожидании ответа от облачного API.

Но у проекта есть два ограничения, и о них говорят прямо: контекст всего 512–1024 токена, так что часть задач туда просто не влезет; а без дополнительной настройки Laya обобщает хуже, чем Jev.

GitHub

👉 JS