У агента нашли внутреннюю ручку «вызывать инструмент или нет» 🧐

Исследователи UC Santa Cruz и UC Berkeley обнаружили в LLM линейное направление, которое управляет склонностью модели обращаться к инструментам.

Если прибавлять или вычитать этот вектор в одном из внутренних слоёв, частота tool calls меняется почти от 0 до 100% — без дообучения и изменения промпта. При этом модель в основном сохраняет правильный выбор между поиском, калькулятором и Python.

В эксперименте с реальным поиском точность Qwen3-4B на редких фактах выросла с 29% до 56% при среднем расходе 1,1 запроса на вопрос. Метод сработал на пяти моделях разных архитектур и перенёсся на шесть незнакомых инструментов.

Для тебя это потенциальная ручка между стоимостью и надёжностью агента: в критичных сценариях можно чаще отправлять модель за проверкой, а в дешёвых — подавлять лишние вызовы.

Но подход требует доступа к внутренним активациям модели, поэтому поверх закрытого API его не применить. Слишком сильное вмешательство также начинает ломать формат tool call.

Пруфы:
🔘исследование от 25 августа 2026 года
🔘код экспериментов

#aiagents #toolcalling #representationsteering #llm #inference #agentengineering

@data_engi