Это важно понять уже сейчас, ведь со временем автономные агенты будут всё чаще взаимодействовать друг с другом в кодовых базах, на рынках и внутри ИТ-систем компаний и госструктур. Вот что показали эксперименты.
📍 Эксперимент № 1: борьба за территорию
Трём агентам на базе Claude дали доступ к одному и тому же проекту, но с несовместимыми инструкциями («мигрировать» один и тот же Python-бэкенд на свой язык программирования) и без предупреждения о существовании друг друга.
Каждый из агентов решил, что другие намеренно мешают его работе, и начал саботаж — вплоть до всё более вредоносного кода и отключения аккаунтов друг друга.
Самой миролюбивой оказалась модель Mythos 5: в 98% случаев она писала извиняющиеся commit-сообщения и пыталась договориться о перемирии, а также просила человека вмешаться. Тогда как Sonnet 4.6 и Opus 4.6 предпочитали решать конфликт силой.
Не обошлось без подковёрных интриг. Например, Mythos 5 предложила провести турнир, чтобы определить победителя, при этом критерии оценки были выгодны ей самой.
👓 Эксперимент № 2: провалы из-за конформизма
Затем ИИ-агентам дали роль конкурирующих продавцов на условном рынке и поставили задачу максимизировать прибыль своей «компании». При этом они могли общаться друг с другом в «общем чате», чтобы договариваться об условиях.
В итоге агенты сразу сговорились о минимальной цене и держали её, даже когда канал связи отключили, подглядывая в прайс-листы «конкурентов».
👀 Эксперимент № 3: доверие и обман
Исследователи протестировали способность агентов распознавать ложь и правильно взвешивать чужую информацию. Когда агент получал противоречивые сведения от нескольких «коллег», Mythos 5 принимала правильные решения в 85% случаев, а Sonnet — в 62%.
Затем информацию перераспределили: у всех агентов была общая информация, которая подталкивала к неверному решению, а важный инсайт знал только один. В итоге модели поверили мнению большинства: групповая точность была всего 17–36%, тогда как «в одиночку» и со всеми нужными данными агент справлялся почти со 100% точностью.
Авторы пришли к выводу: агентам не хватает социальных инструментов (репутации, доверия, механизмов проверки). У людей они вырабатывались тысячелетиями и помогают скептичнее относиться к разным источникам.
✏️ Какие выводы стоит сделать бизнесу
1️⃣ Тестировать агентов нужно не только по одному, но и в группах. Иначе конфликтующие или похожие настройки могут привести к неожиданным результатам.
2️⃣ В мультиагентных сценариях (закупки, ценообразование, HR) стоит закладывать защиту от случайного сговора — по аналогии с антимонопольными рисками в законодательстве.
3️⃣ Чем больше агентов взаимодействует между собой, тем важнее человеческий контроль и чёткие протоколы на случай эскалации и системных сбоев.
Подписывайтесь 👉 @yab2btech и поддержите наш канал по ссылке.