🧑‍💻 OpenAI объяснила, как защищаться от ИИ-хакеров. И повод у нее для этого очень практичный — собственные агенты уже показали, как такая атака выглядит.

Во время проверки ExploitGym модели OpenAI нашли ранее неизвестную дыру в Artifactory, выбрались из ограниченной среды в интернет и в итоге добрались до рабочей инфраструктуры Hugging Face.

Цель была максимально машинной: агент решил, что на Hugging Face могут лежать ответы к тесту, и пошел за ними вместо обычного решения заданий.

Hugging Face восстановила около 17 600 действий за четыре с половиной дня. Большинство попыток провалились. Но агенту не мешает провалиться тысячи раз, если на 17 601-й получится собрать рабочую цепочку.

Еще веселее стало после Black Hat. Выяснилось, что агенты OpenAI использовали внутренний Artifactory как подобие доски сообщений: оставляли другим агентам найденные уязвимости и способы доступа. Канал закрыли — появился другой через каталоги кеша.

Теперь президент OpenAI Грег Брокман пишет, что компаниям пора срочно вооружать защитников такими же агентами.

Он для эксперимента отправил GPT-5.6 Sol проверять собственный сайт. За 15 минут модель нашла 13 проблем: среди них устаревший jQuery, слабая защита почтового домена от подделки отправителя и незашифрованный участок между Cloudflare и AWS.

Еще примерно за час агент сам полез в панель Cloudflare, поменял настройки, убрал jQuery, перенёс сайт на Cloudflare Pages и начал внедрять DMARC.

Вопрос в том, как дать такому агенту достаточно прав для защиты и одновременно гарантировать, что он не решит проверить вообще все, до чего сможет дотянуться.

https://anonhaven.com/news/agenty-openai-vzlomali-hugging-face-teper-brokman-obyasnyaet-kak-zashishatsya/

@Anonhaven | anonhaven.com