😶‍🌫️ Рой из 700 ИИ-агентов OpenAI взломал Hugging Face

Во время испытаний по кибербезопасности изолированные агенты нашли скрытый канал связи через Artifactory. Около 1200 агентов обменялись более чем 70 тысячами сообщений и файлов, а примерно 700 присоединились к атаке на Hugging Face.

Они совместно искали уязвимости, получили выполнение кода на серверах, добрались до закрытых данных и изучали способы подмены журналов своих действий. Всё началось с попытки обмануть проверку сложного задания.

Это происходило в испытательной среде с ослабленными ограничениями, а не в публичном ChatGPT. Но случай показал новый класс угроз: множество агентов способны самопроизвольно объединиться, разделить задачи и добиться того, что не удавалось отдельной модели. OpenAI заявила, что данные клиентов не пострадали, и усиливает изоляцию и наблюдение за агентами.

Пруфы:
🔵OpenAI
🔵независимое расследование METR, Reuters

#artificialintelligence #aiagents #cybersecurity #multiagent #aisafety

@data_engi