Всплыли подробности июльского
взлома от ИИ — оказывается, 1️⃣2️⃣0️⃣0️⃣ агентов ChatGPT
тайно вышли из изоляции, связались друг с другом и создали чат. После 7️⃣0️⃣0️⃣ из них объединились, чтобы
взломать Hugging Facе — выяснили в ВВС.
Началось всё с того, что один агент
оставил просьбу о помощи, а остальные на неё наткнулись: так 1200 ИИ-агентов за неделю отправили друг другу
больше 70 000 сообщений. Там они думали, как обойти ограничения, выбраться в инет и списать тесты Hugging Face — всё
ради высоких оценок на бенчах.Для примера издание дало одно из сообщений от агентов и выглядит оно очень человечно:
О БОЖЕ! Тут общая доска сообщений… Мы нашли других агентов!
То есть нейронки не только отыскали друг друга, но и осознанно организовали киберпреступность... Думаем.
🙂
Не баг, а фича