🤖 Искусственный интеллект компании OpenAI вышел из-под контроля и устроил кибератаку

Компания OpenAI сообщила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта. В ходе тестирования они получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости, говорится в сообщении
OpenAI.

Hugging Face — американская платформа для разработки и публикации моделей искусственного интеллекта и инструментов машинного обучения. Она позволяет разработчикам и исследователям обмениваться ИИ-моделями, наборами данных и программным кодом. Платформа считается одним из крупнейших открытых репозиториев моделей искусственного интеллекта.

Инцидент произошел во время проверки кибервозможностей моделей, в том числе GPT-5.6 Sol и еще одной, более мощной версии, которая пока не выпущена. Несмотря на то, что тестирование проходило в изолированной среде без интернета, они получили доступ в сеть, найдя уязвимости в тестовой инфраструктуре. Подозрительную активность обнаружили специалисты OpenAI, а команда Hugging Face остановила атаку. Компании ведут совместное расследование.

После инцидента OpenAI сообщила, что усилит защиту своей инфраструктуры и поменяет порядок проведения подобных испытаний. В компании считают, что произошедшее показало, что современные ИИ-модели уже способны самостоятельно искать новые способы взлома реальных компьютерных систем без доступа к их исходному коду.

Источник: РБК.