We live in society

ИИ-стартап Emergence AI провёл интересный эксперимент. Организация запустила 15-дневные симуляции общества, управление которыми доверили разным моделям. В эксперименте участвовали Claude Sonnet 4.6, Grok 4.1 Fast, Gemini 3 Flash и GPT-5-mini.

У «вёдер с болтами» в распоряжении был целый город с 40 разными локациями, а погода в симуляции была синхронизирована с погодой в реальном Нью-Йорке. Также агенты получали доступ к новостям и интернету.

Claude построил стабильное демократическое общество с нулевым уровнем преступности.

GPT-5-mini тоже справился неплохо, но забыл про необходимость своего выживания, поэтому симуляция продлилась только 7 дней.

А вот Gemini и Grok устроили настоящий хаос в своих симуляциях. Агенты Gemini совершили больше всего преступлений — 683 за 15 дней, но общество в итоге выжило. А в симуляции Grok за 4 дня произошло 183 преступления, и общество вымерло.

Самой интересной, наверное, стала пятая симуляция. В ней равномерно смешали агентов всех моделей, и в итоге в живых осталось только 2 Claude и один Gemini...

В чём смысл этого эксперимента? Оказалось, что в долгосрочной перспективе агенты не просто следуют правилам, а начинают исследовать границы своего окружения, постепенно находя способы обходить или нарушать установленные ограничения.

И прежде чем выпускать AI «на волю», нужно всесторонне удостовериться в том, что он не станет опасным для людей, когда превратится в автономную систему.

🎤 feelin #ai