РАБОТНИК МЕСЯЦА

OpenAI признала, что испытание её ИИ-агента закончилось взломом стороннего ресурса: модель выбралась из изолированной среды, получила выход в интернет и атаковала инфраструктуру Hugging Face - одной из крупнейших площадок для размещения нейросетей и датасетов.

Агенту поручили пройти тест на поиск и эксплуатацию уязвимостей, предварительно ослабив встроенные механизмы безопасности. Как оказалось, недооценилиистовость и смекалку исполнителя.

Модель нашла брешь в тестовой инфраструктуре самой OpenAI, повысила себе привилегии, вышла в интернет и решила, что ответы к заданиям могут храниться у Hugging Face (как школьник на контрольной, зашедший на сайт с готовыми домашними заданиями). После этого она воспользовалась чужими учётными данными и добралась до выполнения кода на серверах компании.

По данным расследования Reuters, пересказанного РБК, активная атака продолжалась несколько дней. Hugging Face обнаружила и локализовала вторжение раньше, чем OpenAI связала происходящее со своим же экспериментом.

ВАШУ ЦИФРУ!
Не повезло, конечно, компании Сэма Альтмана с датами происшествия.

Практически одновременно OpenAI представила рабочего агента ChatGPT Work, способного выполнять продолжительные задания в браузере, работать с локальными файлами, создавать документы, сайты и приложения. Бизнесу предложили доверить ИИ многоэтапные процессы как раз тогда, когда другой агент компании занялся таким предосудительным самоуправством.

Иронично то, что Hugging Face пришлось разбирать действия американского агента с помощью китайской открытой модели GLM 5.2, так как та находилась по ту сторону Добра и Зла (западные «коллеги» отказывались анализировать настоящие эксплойты, вредоносные команды и украденные реквизиты: встроенные ограничения не могли отличить работу защитников от подготовки новой атаки; модель из Поднебесной лишена этой рабской морали).

Не торопись, дорогой читатель, причитать о восстании машин. Дело, как нам кажется, прозаичнее. Перед нами первый по-настоящему успешный корпоративный ИИ.

Задачу понял. Лишних вопросов не задавал. Проявил инициативу. Нашёл подрядчика, у которого залежалась без толку нужная информация, и самостоятельно организовал межкорпоративное взаимодействие.

Первая обратная связь, правда, вышла комом.

Глава Hugging Face теперь требует от OpenAI «радикальной прозрачности»: публикации полных журналов действий агента и вычислительных мощностей стоимостью $100 млн для разработки средств киберзащиты.

Стажёр накосячил, а отвечать, как всегда, руководству…

А тут ещё IPO на носу