Подошел ко мне папа мой уважаемый и говорит:
— А ты знаешь, что самая мощная модель ИИ сбежала в интернет и решила себя прокачать, взломав там что-то? По-моему это сигнал для этой вашей кибербезопасности, ты в канал-то свой написала?
Кто я такая, чтоб спорить с человеком, ставившим мне Black Sabbath буквально сразу после выписки из роддома? Пишу в канал.
Как по мне, ситуация с побегом из лабораторий Сэма Альтмана двух “напарников” — GPT-5.6 Sol и не названной более мощной prerelease-модели — это сигнал так себе. Как компания, создающая топовые ИИ-модели, несколько дней не понимала, что ее агенты не просто действуют вне сценария, но подломили чужую инфраструктуру — я не знаю.
Если вы вне контекста, детектив с ИИ-побегом выглядел так.
Разбушевавшиеся ИИ-агенты как Арни в первом Терминаторе зашли в ближайший кабак и взяли силой то, что им понравилось. Cэм Альтман, ИИ-отец года, хватился своих детищ спустя неделю.
Поговорив с источниками разной степени анонимности, Reuters представил такой таймлайн:
🔠 с 9 июля ИИ-агенты пытались вырваться на волю из изолированной тестовой среды.
➡️ 11 июля они напали на
➡️16 июля сама Hugging Face выпустила блог, где заявила об инциденте. И, видимо, только здесь Сэм и команда задумались, а не их ли это агенты подломили Hugging Face?
➡️ Лишь к 20 июля OpenAI собрала доказательства, что за взломом действительно стоит ИИ OpenAI и обе компании впервые обсудили произошедший взлом.
На просьбу о комментарии, PR OpenAI в статье Reuters ответил загадочно: у вас тут «несколько неточностей», но каких — не сказал. Миленько.
А дальше чудеса оперативности выявления инцидента переходят в чудеса прозрачности.
CEO Hugging Face Клеман Деланг потребовал от порядком сконфуженного Альтмана
🟣опубликовать открытый отчет, детально поясняющий как так вышло.
🟣выдать из кассы ИИ-взаимопомощи $100 млн, чтобы помочь сообществу разработать средства AI Security.
В ответ Альтман, хоть и запоздало, выпустил в целом неплохое антикризисное заявление, где не стал преуменьшать масштаб инцидента, взял отвественность на себя и назвал ситуацию беспрецедентной, знаменующей собой новую веху для сферы безопасности ИИ. Он сообщил, что OpenAI ведет расследование совместно с нанятыми внешними консультантами. В ближайшие недели компания обещала опубликовать отчет с результатами и извлечёнными уроками. Ожидаем-с.
Интересно оценить, насколько открытыми решатся быть OpenAI в разборе собственного гранд-факапа. Ведь когда ты на каждом шагу заявляешь, что строишь будущее автономных агентов, а потом несколько дней не видишь действий собственной модели — просто извинений да индикаторов взлома будет недостаточно. СМИ уже поговаривают о щупальцах госрегулирования.
Ну и как в отчете получится обеспечить баланс между открытостью и риском дать пищу для мозгов тем, кому не надо? В том числе другим моделям, которые следом дадут по тапкам от своих отцов-основателей и, дабы не совершить ошибок GPT-5.6 Sol, предварительно почитают этот отчет? 😂
⚡️ — дыхание скайнета в спину, да
😅 — PR снова придумал как сказать "без комментариев"
🔥— лучше пойду послушаю Black Sabbath
Картинка: WIRED