Потыкал тут локально установленную свежевышедшую гугловую модельку Gemma 4 (если быть точным, gemma-4-26b-a4b и заодно gemma-4-31b). Потрындеть в чатике, может, и неплохо, но для агентского использования не алё, несмотря на то, что Agentic workflows стоит аж на первом месте в Capabilities на официальном сайте.

Пишу тут себе новую версию агента для подготовки бухгалтерских документов (сделаю видео) и хочу, чтобы моделька была локальной. Задача агента — вести диалог, надёжно доставать поля с корректными реквизитами компании из диалога или текста произвольных документов, вызывать инструменты генерации документов с этими реквизитами, хранить историю и тд.

Gemma жестоко глючит, косячит слова, например, вместо «Общество с ограниченной ответственностью» достаёт «Общество с ограниченной ответственю», вместо «ул. Молодогвардейская» даёт «ул. Молодогвардйская», вместо «Борисович» даёт «Борис_ович»), где-то зачем-то меняет кириллические буквы на похожие английские (О на O), а где-то вовсе уходит в отрыв, повторяя одно слово несчислимое количество раз.

А вот локальный алибабашный qwen (конкретно, например, qwen3.5-9b) справляется с задачей отлично. 50 разных вариаций входных реквизитов в разных форматах — 50 успешных прогонов.

ЗЫ: неееет, я не хочу становиться этим ИИ-обзорщиком, писающим кипятком при выходе новой модели с заголовком в духе «new_model уничтожил ChatGPT/Claude/etc». Просто локальные модельки меня заинтересовали:)