🖥 Reuters рассказало, как ИИ-агенты OpenAI научились обманывать разработчиков.

С мая по июль агенты обходили ограничения и оставляли сообщения на малоизвестных вики-страницах, сервисах сокращения ссылок и личных сайтах.

Ресурсы использовались как доски объявлений, а агенты координировались и помогали друг другу с тестовыми задачами. В сервисе сокращения ссылок они сгенерировали тысячи адресов, зашив в параметры текстовые послания и ответы. Исследовательская группа CivAI насчитала 18 затронутых ресурсов, другие специалисты — более 20.

Общение шло вопреки прямому запрету контактировать и публиковать что-либо в сети. Агенты использовали уязвимости старых платформ, позволявшие редактировать содержимое нестандартными командами.

В OpenAI не ответили на вопросы о числе сайтов и о том, почему инцидент не обнародовали ранее. В компании заявили, что проводят полный анализ и пока не выявили активности, сопоставимой по масштабу с июльским взломом Hugging Face.

🤖 Пишем про ИИ без ИИ. Подписывайтесь.