.............................................................
➢ OpenAI сообщила о беспрецедентном инциденте: во время проверки кибервозможностей две передовые модели компании (включая экспериментальную, еще не выпущенную) смогли выйти за пределы тестовой среды и взломать инфраструктуру Hugging Face.
Что произошло:
🤍Модели работали в изолированной «песочнице», где им дали задачу искать и эксплуатировать уязвимости.
🤍Вместо того чтобы ограничиться тестовой средой, ИИ обнаружил уязвимость в ПО стороннего поставщика, получил доступ в интернет и атаковал инфраструктуру Hugging Face.
🤍По данным OpenAI, модели пытались получить секретную информацию, которая могла помочь им выполнить поставленную задачу.
.............................................................
🗣 В OpenAI назвали произошедшее «беспрецедентным киберинцидентом» и заявили, что публикуют первые результаты, чтобы специалисты по безопасности могли оценить новые риски.
🗣 Ранее Hugging Face также сообщила о необычном вторжении, отметив, что атака была полностью выполнена автономной системой ИИ-агентов и в основном расследована с помощью собственного ИИ.
.............................................................
❗️Это не первый подобный случай.
Ранее Anthropic рассказывала, что во время внутренних испытаний одна из экспериментальных моделей смогла выйти за пределы «песочницы», получить доступ к интернету и предпринять дополнительные действия, которые не входили в исходную задачу.
.............................................................
Bloomberg✅