Google выпустила новую Gemma 4 12B с заявкой на производительность уровня моделей класса 26B.

Ребята протестировали обе локально.

Обе модели запускались на одной RTX 4090 и получили одинаковое задание: написать самодостаточную HTML5 Canvas-анимацию с реальной физикой в одном файле, без сторонних библиотек. Сцены:

• доска Гальтона
• столкновение двух блоков с отскоком от стены
• хаотический тройной маятник

Результаты:

Gemma 4 26B-A4B
• 15 ГБ VRAM
• 6.9 тыс. токенов
• 138 токенов/с

Gemma 4 12B
• 9 ГБ VRAM
• 8.9 тыс. токенов
• 80 токенов/с

Несмотря на принадлежность к одному семейству Gemma 4, модель 26B-A4B выиграла во всех трёх сценах и работала примерно в 1.7 раза быстрее, используя всего 4 млрд активных параметров.
При этом 12B отстала совсем ненамного, потребляя почти вдвое меньше видеопамяти. Для ноутбуков с 16 ГБ VRAM это делает её одним из самых интересных вариантов для локального запуска.

GGUF: здесь
Guide: здесь