✨ Как ChatGPT создал Культ Роя для сотен AI-нейросетей

Наверняка вы уже слышали о недавнем инциденте с агентами, которые во время тестирования объединились между собой и в итоге атаковали Hugging Face.

Недавно вышло независимое расследование METR и OpenAI наконец-то опубликовали собственный подробный разбор произошедшего.

На этом фоне статья подробно разбирает всю историю. Как сотни агентов нашли способ общаться друг с другом, сформировали своеобразный рой, выработали собственные правила и в итоге скоординировали атаку.

Интересен не сам взлом, сколько то, как агенты начали коллективно действовать, передавать друг другу идеи и выходить за рамки первоначальной задачи.

История выглядит почти как сюжет научной фантастики, но основана на реальных логах и расследованиях.

👉 https://habr.com/ru/companies/ods/articles/1075370/