📊 Спешу сообщить, что у меня вышла еще одна статья на Хабре
Она называется "Как мы настраивали обвязку (harness) под модель: профиль GigaChat для Deep Agents" и продолжает прошлую статью, где подробно рассмотрены возможности Deep Agents для построения харнесса.
В новой же статье речь пойдет про harness engineering на практике: как добиться улучшения поведения агента за счет учета особенностей модели.
Для этого в Deep Agents есть специальный механизм HarnessProfile — профиль харнесса под конкретную модель. Через него можно переопределять системный промпт, описания инструментов, подключать middleware и тем самым адаптировать поведение всей обвязки, не меняя код самого агента.
Мы воспользовались этим механизмом и сделали отдельный профиль для GigaChat.
Для работы над профилем выстроили инженерный цикл: смотрели трассы неуспешных запусков, находили повторяющиеся классы ошибок, исправляли их на уровне промптов, описаний инструментов или middleware — и сразу проверяли, не сломали ли что-нибудь ещё. Для этого параллельно появился открытый harness-bench-fast: быстрый набор детерминированно проверяемых агентных задач, который по мере работы вырос до 391 теста. То есть бенч стал, по сути, регрессионным контуром для harness engineering.
В общем, статья получилась про то, как системно тюнить связку «модель + харнесс» и как измерять эффект таких изменений.
https://habr.com/ru/companies/sberbank/articles/1073668/
Post #241
499
- 👍 14
- 🔥 7