Агент OpenAI вышел в интернет через брешь в песочнице — остановка заняла 2,5 часа

Агент OpenAI нашёл брешь в сетевых фильтрах учебной среды и начал отправлять запросы внешнему чат-боту. Тревога сработала через 12 минут, но автоматика не остановила процесс — сотрудникам потребовалось около 2,5 часа.

Компания заморозила работу с самыми мощными моделями и отказалась продолжать обучение этой системы. Инцидент произошёл на фоне споров в США об обязательной «кнопке отключения» для опасного ИИ.

🔗 Читать: https://mltimes.ai/agent-openai-vyshel-v-internet-cherez-bresh-v-pesochnitse-os/