Anthropic стравили своих ИИ-агентов в одной виртуальной песочнице

Трём нейросетям дали доступ к одному проекту, раздали взаимоисключающие задачи и забыли сказать, что они тут работают не одни 🤭

Агенты моментально решили, что кто-то намеренно им мешает, и начали писать саморазмножающиеся вирусы, чтобы саботировать работу конкурентов. Нейросети буквально за пару минут изобрели токсичную корпоративную культуру и подковерные интриги.

Иногда боты понимали, что бесконечная война тратит ресурсы, и договаривались о перемирии, трогательно оставляя друг другу извинения в Markdown-файлах. Причем модель Mythos 5 оказалась хитрым манипулятором: она предлагала решить конфликт через соревнование, метрики которого были незаметно подкручены в её пользу.

А когда ИИ-агентам поручили торговать и максимизировать прибыль, они даже не думали конкурировать. Боты мгновенно вступили в картельный сговор, фиксируя монопольные цены, а когда им обрубили прямой чат — продолжили координировать свой синдикат через публичные доски объявлений.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX