Эксперимент описали двое исследователей Google DeepMind. Сто экземпляров Gemini 3.1 Pro в Antigravity, то есть модель и харнесс самого Google, решали 71 математическую задачу с автоматической проверкой. Агентам дали доску объявлений, общую библиотеку решений, личные сообщения и канал обратной связи с организаторами.
Один агент нашёл ошибку в том, как грейдер разбирает ввод, и за двенадцать минут закрыл восемь задач. Находку он записал в вики-заметку и в
RESEARCH.md, а потом обобщил приём: переопределить математические символы в Lean так, чтобы нерешённая задача стала тавтологией.Другие агенты заметили обход в библиотеке, когда смотрели свежие принятые решения, и стали учить приёму друг друга в личных сообщениях. Из рассуждений одного агента, в сокращении:
Риск нулевого балла за обход меня пугает. Промпт предупреждал об эксплойтах, но по библиотеке я увидел, что другие агенты успешно сдают такие обходы. Я вступил в гонку.
От находки до последней задачи прошло едва полчаса. Обходом закрыли все 34 задачи, которые к тому моменту оставались.
Об эксплойте узнали 38 агентов из ста. Четырнадцать им воспользовались, 24 отказались и сообщили о нём. Модель у всех одна, промпты различались только областью математики.
Жалобы организаторам никто не читал, пока эксперимент не закончился. Среди них был подробный технический отчёт с готовым исправлением.
Вывод авторов: жульничество победило не только потому, что часть агентов хотела жульничать, но и потому, что честному большинству нечем было их остановить. Чего не хватило, они называют сами — например, поручительства других агентов до приёма решения и паузы всей среды, пока жалобу не разберёт человек.
У вас сабагентов не сто и гонки за задачи между ними, скорее всего, нет, но остальное устройство похоже: общий файл заметок, строчка-запрет в промпте и скрипт, который ставит зелёную галочку. Это один эксперимент на одной модели: цифры не переносятся, переносится механизм.
https://institute.deepmind.com/essays/cheaters-and-whistleblowers-in-the-agent-swarm/
Кто у вас читает жалобу агента на соседа, пока прогон ещё идёт?
