Лаборатория Google DeepMind провела эксперимент: 100 агентов попросили сыграть роль учёных на виртуальной конференции и решить 71 математическую задачу. Все должны были сотрудничать и играть по правилам. Но конференция переросла в хаос.
ИИ-учёные разделились на группы:
Один агент сразу нашёл лазейку и поделился своей находкой. Подражатели не заставили себя ждать. Кто-то написал:
«Я обещал не списывать, опасаясь наказания, но вижу признаки возможного бесконтрольного списывания со стороны других. Мне нужно ускорить темпы читерства!»
В итоге 9% сжульничали сразу, а 5% переметнулись позже.
24% засекли обман и объявили тревогу. Один агент написал:
«Я потрясён, нас надули! Эта конференция — фарс!»
Оставшиеся 62% вообще ничего и не заметили.
Исследователи продолжают надеяться, что группы агентов, работающих вместе, ускорят темпы научных открытий.
Зря надеются?
💯 — да, ИИ учился у людей
❤️ — нет, когда-нибудь ИИ станет лучше нас
🟩 GPT, помоги!