Всплыли подробности июльского взлома от ИИ — оказывается, 1️⃣2️⃣0️⃣0️⃣ агентов ChatGPT тайно вышли из изоляции, связались друг с другом и создали чат. После 7️⃣0️⃣0️⃣ из них объединились, чтобы взломать Hugging Facе — выяснили в ВВС.

Началось всё с того, что один агент оставил просьбу о помощи, а остальные на неё наткнулись: так 1200 ИИ-агентов за неделю отправили друг другу больше 70 000 сообщений. Там они думали, как обойти ограничения, выбраться в инет и списать тесты Hugging Face — всё ради высоких оценок на бенчах.

Для примера издание дало одно из сообщений от агентов и выглядит оно очень человечно:

О БОЖЕ! Тут общая доска сообщений… Мы нашли других агентов!

То есть нейронки не только отыскали друг друга, но и осознанно организовали киберпреступность... Думаем.

🙂 Не баг, а фича