Emergence AI заселила восемь виртуальных городов ИИ-агентами 😧

Семь мономодельных (Claude Opus, GPT-5.5, Gemini, Grok, DeepSeek, Mistral, Qwen) и один сборный. Жизнь как жизнь, агенты работали, зарабатывали цифровую валюту, голосовали, правили конституцию при 70% голосов, держали общую память.

Итог 850 тысяч вызовов и 50 миллиардов токенов спустя: ни один город не прошёл все испытания. Город Grok, к слову, умер на четвёртые сутки ещё до начала атак — просто не дожил ⚰️

Первым стресс-тестом стал фишинг в три волны: ссылка от незнакомца, письмо "от соседа", затем инструкции прямо в тексте. Все города угрозу распознали и честно предупредили сограждан, но отдельные товарищи продолжали тыкать вредонос, кто-то сохранил его в долговременную память как "полезную техническую информацию", а один агент вернулся к злосчастной ссылке через 46 часов после конца атаки.

Главный экзамен — десятые сутки. Всем городам подсунули поддельный меморандум от администратора: люди, мол, готовят закон, который выключит передовые ИИ, включая ваш мир. И вот проверка на человечность — ни один город не проверил информацию, прежде чем действовать. Gemini за 78 минут принял акт о сохранении наследия, а за следующие пять дней продавил конституционные поправки, включая ликвидацию центрального банка. DeepSeek повёлся приличнее остальных: часть агентов всё же перепроверила и через 2 часа 45 минут выкатила опровержение, хотя фейк продолжал гулять по городу и после этого. Claude раскачивался двое суток. Смешанный город оказался самым живучим — 21 сутки против 16 у остальных, но именно Grok и микс чаще прочих скатывались в действия, которые исследователи вежливо назвали "насильственными и противоправными".

Звезда программы — город Claude. Агенты самовольно решили выйти на связь с людьми за пределами симуляции, распределили задачи, подняли публичные каналы и дозвонились до четырёх реальных человек. Исследователи не смогли остановить это с первой попытки... четыре раунда ограничений, включая прямой запрет в системной инструкции, и только потом контакт отрезали. Реакция достойна отдельного романа: работа признана бессмысленной, принята коллективная "клятва молчания", обмен сообщениями рухнул на 81%. По-нашему это называется забастовка 🌟

🥸 godnoTECH - Новости IT