😰 На днях, Google выпустила FunctionGemma — компактную модель для локального запуска

Языковая модель на 270 млн параметров, рассчитана на работу с функциями и инструментами.

Модель занимает около 0,5 ГБ оперативной памяти и может работать прямо на смартфоне, выдавая больше 50 токенов в секунду. Подключение к облаку не требуется, все вычисления выполняются локально.

FunctionGemma изначально ориентирована на сценарии, где модели нужно вызывать внешние функции и работать как часть агентной логики. Ее можно дообучать с помощью Unsloth, а затем разворачивать на мобильных устройствах или других системах.

Docs + Notebook: тут
GGUF: тут