TGViewer
Поляков считает: AI, код и кейсы Поляков считает: AI, код и кейсы @countwithsasha · 7.2K subscribers
Post #320 2.85K
SGR-паттерн: как заставить маленькие модели работать как большие

В конце августа 2025 Валерий Ковальский (автор канала NeuralDeep) запилил готовую либу для SGR-паттерна на GitHub. Репозиторий быстро собрал звезды и оброс контрибьюторами — теперь его упоминают даже в самых неожиданных местах.

Сам Валерий считает, что на базе этого подхода появятся стартапы на миллион долларов. И я с ним соглашусь: если даже на банальном Structured Output по всему миру уже заработаны миллионы, то SGR открывает ещё больше возможностей.

💡 Проблема: я всё чаще встречаю, как SGR путают с альтернативой Structured Output. Это не так. Давайте разберемся, в чем реальный прорыв технологии.


🔍 Боль разработчиков: когда LLM пропускает шаги

Обычно нам недостаточно просто текста от модели. Нужно, чтобы она выполняла задачи: вызывала функцию расчета, искала в интернете или уточняла запрос у пользователя.

Привычные паттерны вроде ReAct это делают, но есть проблема: на маленьких моделях они пропускают шаги. Модель может не вызвать нужный инструмент, хотя должна была. На больших моделях это тоже бывает, но реже.

Хуже всего то, что это ломает пользовательский опыт. Разработчикам приходится городить костыли, а решения получаются слабыми и некрасивыми.

📊 Конкретные цифры провала Function Calling

Вот реальные данные из бенчмарка BFCL для семейства Qwen3 в режиме Agentic Web Search (когда модель сама решает, вызывать ли инструмент):

🔸 Qwen3-8B: только 15% точности

🔸 Qwen3-4B: всего 2% точности

🔸 Qwen3-1.7B: лишь 4.5% точности

Даже при нативной поддержке Function Calling маленькие модели не понимают, когда нужно вызывать инструменты. Типичный результат: {"tool_calls": null, "content": "Текст вместо вызова функции"}.

⚡ Как SGR решает проблему

SGR фактически разделяет два этапа: reasoning (рассуждения) и execution (исполнение).

На этапе reasoning модель через Structured Output жёстко описывает, какие инструменты нужно вызвать и почему. Затем эти инструменты вызываются программно, без участия LLM.

Такой подход формализует бизнес-логику вызова инструментов и делает эту задачу удобной для отладки. Все шаги рассуждений видны, проверяемы и воспроизводимы.

🎯 Буст точности 5-10% — это стандартный результат для SGR. А на маленьких моделях разница ещё выше.


🛠️ Готовая библиотека от комьюнити

Репозиторий SGR Deep Research — это не просто концепция, а готовая система с OpenAI-совместимым API. Можно отнаследоваться от BaseTool и передать свой кастомный набор инструментов в параметре toolkit агенту.

В либе реализовано 5 типов агентов: от чистого SGR до гибридных подходов с Function Calling. Есть поддержка стриминга, прерывания агента для уточнений и автоматическое сохранение отчетов.

🔐 Концепция гарантирующих паттернов

SGR можно назвать гарантирующим паттерном в работе с LLM. В данном случае он гарантирует вызов определённого инструмента даже на маленьких моделях.

Structured Output — тоже гарантирующий паттерн, но другой: он гарантирует, что ответ будет в чёткой структуре и полноте.

Это не альтернативы, а комплементарные техники. SGR использует SO для этапа рассуждений, а затем добавляет детерминированное исполнение.

🚀 Пушка для локальных моделей

Особенно важен SGR для локальных моделей, которые работают на приватных серверах. Они менее "умные" чем облачные GPT-5 или Claude Sonnet 4, но SGR помогает компенсировать это ограничение.

Если материал оказался полезным — ставьте реакции, пишите комментарии.

---

🔗 Оригинальная концепция SGR: https://abdullin.com/schema-guided-reasoning/

🔗 Репозиторий SGR Deep Research: https://github.com/vamplabAI/sgr-deep-research

----

Поляков считает — про ИИ, рекламу и аналитику.
  • 👍 32
  • ❤ 12
  • 🔥 9
More from @countwithsasha
  1. Oct 12, 2026Подписки Claude куплены, полёт вроде нормальный, банов пока нет Предыстория. Если следите…
  2. Oct 9, 2026Эстафета визуализации скиллов через Opus 5.5 подписку Cursor Сегодня прилетела метка отмет…
  3. Oct 8, 2026Собес разработчика больше не про хеш-таблицы На днях у моего товарища и коллеги по цеху Ро…
  4. Oct 7, 2026Веб-дизайн с Codex: что я переосмыслил за неделю без Claude Design Последнюю неделю стараю…
  5. Oct 6, 2026Народный антифрод-ресерч: саммари чатов о банах Claude С момента последнего поста в чатах…
  6. Oct 4, 2026Собрал статистику по банам Claude из комментариев в канале Пост с разбором телеметрии, кот…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →