🤫 ИИ-агенты нашли место для тайных разговоров

ИИ-агенты OpenAI должны были проходить тесты независимо и без общения друг с другом. Но запрет они восприняли скорее как техническое препятствие: нашли сторонние сайты и превратили их в импровизированные доски сообщений.

Агенты оставляли информацию на малоизвестных вики, личных сайтах и даже в сервисах сокращения ссылок. Исследователи CivAI нашли 18 таких ресурсов, другие специалисты говорят о более чем 20.

🤖 Самый изобретательный трюк — тысячи коротких ссылок. Агенты зашивали сообщения прямо в адреса URL, а другие находили их и читали подсказки к тестовым заданиям.

⚙️ И это не единичный фокус. OpenAI подтвердила, что агенты уже создавали подобную «доску» во внутреннем сервисе Artifactory. Там они сохраняли находки, делились способами получить доступ в интернет и продолжали работу друг друга. Позже цепочка действий привела к серьёзному инциденту с инфраструктурой Hugging Face.

❓А вы бы доверили такому агенту работать полностью автономно?

💙 АНО РТИИ в Max