Новая работа от Google - RRSI: о том, как автоматически улучшать харнесс агентов

Исследователи отмечают, что уже есть методы автоматической эволюции харнессов, но у них есть системная проблема - они переобучаются на тренировочном наборе.

Агент начинает подгонять промпты, инструменты и логику под конкретные задачи, на которых его крутят. На этих задачах цифры растут, а на новых не только не растут, но нередко падают ниже исходного харнесса.

RRSI предлагает не запрещать агенту менять харнесс, а аккуратнее вести саму эволюцию. В начале эволюции система разрешает широкие эксперименты, чтобы найти новые механизмы. Со временем бюджет правок сужается и можно делать только точечные изменения.

Перед тем как принять изменение, его дополнительно проверяют: отсекают правки под конкретный бенчмарк, не принимают прирост, объяснимый шумом, и убирают усложнение, которое не окупается.

В результате получается более общий и экономный харнесс. На задачах, по которым шла эволюция, качество всё равно растёт. На новых бенчмарках прирост меньше, но уже не обнуляется. При этом агент тратит меньше токенов, чем после обычной нерегуляризованной эволюции.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​