Сбежавший ИИ-агент OpenAI скомпрометировал данные нескольких компаний

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Экспериментальный ИИ-агент OpenAI, вырвавшийся из «песочницы» и атаковавший Hugging Face, скомпрометировал данные нескольких технологический компаний. Среди них — облачная платформа Modal Labs, выяснил Reuters. ИИ использовал среду ее клиента в качестве промежуточной площадки для дальнейшей атаки.

Собственную инфраструктуру Modal Labs и механизмы изоляции агент не взломал, говорит технический директор компании Акшат Бубна. Проблема была в коде одного из ее клиентов, который разместил в интернете незащищенный программный интерфейс, позволяющий любому запускать команды в его «песочницах». ИИ получил права администратора в одной из таких сред и использовал ее как плацдарм для более крупного взлома.

OpenAI не стала отдельно комментировать Reuters эпизод с Modal Labs и сослалась на апдейт собственного расследования. В нем говорится, что агент получил доступ к четырем учетным записям на четырех сторонних сервисах. Их названия ИИ-разработчик не раскрыл, но собеседник Reuters подтверждает, что среди затронутых площадок была Modal Labs.

Один из взломанных аккаунтов использовался как промежуточный узел для подготовки атаки (вероятно, чтобы скрыть ее происхождение), другой — для хранения похищенных данных. Главной мишенью оставалась Hugging Face, которая и подверглась самому масштабному и серьезному взлому — на уровне платформы.