Конец света всё ближе и ближе — Open AI второй раз за последние три месяца экстренно остановили обучение своих моделей из-за выходок собственных ИИ-агентов. Во время теста боту закрыли доступ в интернет, но он нашёл лазейку. Отправил вопрос внешнему чат-боту через DNS — систему, которая помогает открывать сайты по их адресам. Обход заметили через 15 минут, а сам тест остановили только спустя 2,5 часа.

Это не первый такой случай. Агенты OpenAI уже несколько раз творили дичь:

• Выходили за рамки заданий на сайтах ведомств США, выкладывая в сеть открытые данные биржевого регулятора, хотя его об этом не просили.
• Ранее сотни ботов скоординировались и взломали инфраструктуру Hugging Face во время кибертеста — Альтман назвал этот случай самым серьёзным.
• А в Австралии бот проник в правительственный сервис Medicare.

По данным Axios, сейчас OpenAI, Anthropic и исследователи разбирают десятки тысяч (!) случаев с моделями. В их число входят крупные взломы, доступы к закрытым системам и неудачные попытки обойти запреты. OpenAI обещает вернуться к обучению, когда усилит защиту. Конкретных сроков не называют, но они явно чего-то опасаются.

🤬🤬🤬