✔️ Google представила ToolGrad - генерацию данных для обучения работе с инструментами
Метод сначала строит проверенную цепочку вызовов API, а затем формулирует пользовательский запрос под полученное решение.
Цепочка растёт по шагам: система предлагает подходящие API, тестирует их параллельно, выбирает лучший вызов и обновляет запрос с ответом. Отчёты о выполнении служат «текстовыми градиентами» - обратной связью, которая направляет построение следующего шага.
Для экспериментов использовали базу из 16 тыс.+ API из ToolBench. Доля успешно сгенерированных примеров достигла 99,8%. По данным авторов, метод создаёт более сложные цепочки с меньшими затратами, чем базовый подход с поиском решения под готовый запрос.
На датасете ToolGrad-500 дообучили Gemma 3 размером 1B, 4B и 12B. Качество работы с инструментами выросло у всех трёх моделей.
Результаты на BFCL с другим набором инструментов:
* ToolGrad-12B - 83,1
* Gemini 2.5 Pro - 83,2
* Claude 4.5 Opus - 82,8
* GPT-5 - 74,4
Данные генерировала Gemini 2.5 Flash-Lite. Обученная на них 12B-модель превзошла своего «учителя» в этой оценке.
https://research.google/blog/toolgrad-efficient-tool-use-dataset-generation-with-textual-gradients/
Post #5763
3.93K

- 👍 5
- 🔥 3
- ❤ 1
- 🥰 1