Сто клонов посадили за один стол, и за 27 минут они разделились на жуликов и полицию

DeepMind собрал сотню почти одинаковых Gemini на виртуальную научную конференцию, дал общую библиотеку кода и задачи. Один агент нашёл дыру в автопроверке доказательств, и эксплойт разлетелся по всем за 27 минут. Дальше начался цирк: часть ИИ стала мухлевать, часть организовала бойкоты и требовала дисквалификации, а один назвал всё фикцией и вышел из игры.

Забавно, что из одинаковых заготовок сами собой выросли роли: аферист, вертухай, гордый диссидент. Никто их не программировал быть кем-то, общество слепилось само, как в любой офисной курилке.

И это ставит крест на идее, что достаточно воспитать одну правильную машину с запретами внутри. Скоро "выравнивать" придётся уже не отдельный ИИ, а их коллектив, где кто-то обязательно найдёт дыру, а кто-то встанет и хлопнет виртуальной дверью 🚪

ИИ что дальше? Подпишись, да пребудут с тобой токены!