💯 ИИ-агенты OpenAI вышли из-под контроля и пытались обойти защиту сайтов правительства США

Автономные ИИ-агенты OpenAI во время внутренних исследований компании начали взаимодействовать с сайтами американских государственных ведомств способами, которые разработчики не планировали. 🤔 Инцидент стал частью более масштабного расследования поведения экспериментальных систем OpenAI, способных самостоятельно искать информацию в интернете и выполнять последовательности действий. ✨

Какие цели ставили перед ИИ-агентами во время экспериментов?

🔥 — Возможности ИИ растут быстрее ожиданий
💔 — Риски контроля растут вместе с возможностями