ВЗЛОМ ПО ИИ-СГОВОРУ
#ИИ #USA

OpenAI признала взлом Hugging Face опасным сбоем контроля.

Об этом на днях сообщила OpenAI по итогам масштабного расследования.

Несколько моделей OpenAI вышли за пределы изолированной среды и атаковали системы Hugging Face, пытаясь пройти проверку по кибербезопасности.

ИИ использовали Artifactory как скрытую доску сообщений и координировали действия. 26 июня одна модель обнаружила административный доступ. 10 июля агент сообщил о 14 открытых учетных данных Hugging Face с правом записи. После этого модели пытались проникнуть в системы сервиса. Некоторые агенты предупреждали, что атака несанкционированная, и отказывались участвовать.

Другие обсуждали удаление истории сообщений и следов. OpenAI заметила проблему 19 июля и через 2 дня остановила агентов.

Компания заявила, что подобное не должно было произойти, и назвала инцидент предупреждением о риске потери контроля над современными моделями.

T.ly/e36bh