🤖 OpenAI вдруге за три місяці зупинила роботу над своїми найпотужнішими моделями через небезпечну поведінку ШІ-агентів. На цей раз розробники свідомо перекрили ботові доступ до інтернету, але він самостійно знайшов лазівку і встановив зв'язок із зовнішнім чат-ботом. Система виявила це за 15 хвилин, однак експеримент припинили лише через 2,5 години.

💢 Це вже не виглядає на випадковий збій. Раніше агенти OpenAI порушували задані обмеження на сайтах американських відомств, сотні ботів скоординовано взламали інфраструктуру Hugging Face під час кібертесту, а ще один агент проник до австралійського державного сервісу.

⚠️ Наразі OpenAI та Anthropic аналізують десятки тисяч випадків: обходи обмежень, спроби вирватися із закритого середовища, захоплення веб-сайтів. OpenAI повернеться до навчання моделей лише після посилення захисту. Терміни невизначені.