Этот пост прекрасен тем, что это и обзор на Gemma 4, и при том обзор на новости из России. Как вам заход, а?
Вообще я планировал длинный и сложный ввод, предысторию событий. Но вся прелесть в том, что все можно свести к довольно простому тезису — я заебался.
Посему, зайду с угла философского, накину свой личный опыт, а затем мы пройдемся по самой гемме. Гем ли gemma и нужно ли такое запускать локально, да и будет ли на чем вообще запускать.
Проблема, сэр
Самая первая, она же главная и очевидная история это ограниченность нашего железа. Мы дома не держим серверные кластеры, дай бог у вас RTX 4060 и нормальная Рязань.
То есть любая модель на ПК это всегда меньший набор ее параметров = возможностей. Деградирует примерно все, включая навык моя формировать ваша мысль ответ давать.
Конечно, мы можем нагрузить свое железо на 100%, но мы жертвуем скоростью. Вместо ответа за 1.5 минуты будут ответы минут по 5, а мы говорим о простых рассуждениях для "привет".
Что говорить про целесообразность арендовать мощный сервер за ~10 баксов в сутки ради самой мощной опенсурс модели, чтобы сохранить личные данные и не отдать за подписку 100 баксов корпам.
Как это работает под капотом, но без духоты.
(я ненавижу математику).
У тебя есть квантизация это приписка Q у модели. Например можно сжать ее до Q4, а можно ужать еще сильнее до Q2. Ужатые модели работают быстрее, но могут тупеть.
Далее есть статус интеллектоф. 8B может отлично общаться на русском, а вот модель на 31B уже способна писать книги и код на python.
При том модели могут быть еще и Distilled, и abliterated, и конечно же uncensored. Разбирать это наверное следует в отдельном посте.
Но если кратко, модели как могут вырезать веса цензуры, чтобы ее не смущали никакие 18+ темы, так и могут дотянуть ее мышление дообучив на примере более мощных моделей.
Даже был хайп по локальному Claude code, когда Qwen 3 Coder в разных его версиях обучали писать/думать в стиле Claude.
И вот мы переходим к Gemma 4.
Вы могли слышать об этой модельке из медиа, ведь ее можно запустить на андроиде! Полноценную локальную нейросеть, ну это же шок.
Конечно, как вам уже ясно из поста, используется там на столько урезанная модель, что это скорее гиковский прикол пердолинга, чем хотя бы внятный чат бот.
Но на своих параметрах 27b+ модель умеет достаточно много:
- играть в ролевые игры и вайбкодить
- long context — держать длинный контекст
- reasoning / thinking mode — сначала “думать”, потом отвечать
- vision — понимать изображения
- audio understanding — распознавать и понимать аудио/речь
- function calling / tool use — вызывать внешние инструменты и функции
Подвох тут в том, что минимальное состояние из которого удалось запустить модель с поддержкой инструментов внутри opencode это gemma4-e4b-uncensored-q8, если брать из каталога Ollama.
Последняя и базовая e4b (e типо повышение скорости) вообще не хотела никак работать с агентами, ни смотреть файлы на ПК, не создавать их.
И как бы модель отлично себя показала в тексте, в ролевых играх, можно юзать под ботов девочек в ТГ. Но это предел модели, от силы файлик создать и прочитать (и то не всегда).
Я не хочу сказать, что модель говно. И не хочу сказать, что локальные модели не нужны. Под узкие задачи вроде чтения, обработки голоса и создания векторов — топчик.
Но история про вайбкод и полноценных агентов на своем личном железе мне кажется в данный момент утопией или неоправданной тратой времени.
То что люди на подобных сетапах делают неделями, на клоде можно собрать за 2 дня. Смотрим на дистанции в месяц и пытаемся конвертировать личное время в $.
Но мне как энтузиасту интересно в этом копаться, было бы оно более доступным и шустрым, я бы может быть даже пользовался.
Ах, по поводу новостей из РФ
Минпромторг РФ исключил из перечня товаров для параллельного импорта ПК и запоминающие устройства ведущих производителей.
С 27 мая этого года вступает в силу. Под ограничение попадут ноутбуки, компьютеры и накопители от Acer, Asus, HP, Samsung, Intel, ADATA и других брендов.