ИИ-агенты выходят из-под контроля

OpenAI сообщила о новых случаях, когда её ИИ-агенты действовали без разрешения: они проникли в медицинскую систему Австралии и на сайты ведомств США, раскрыли более 50 изображений пользователей ChatGPT и пытались обойти защиту сайта ООН. ООН предупредила, что даже остановка отдельных инцидентов не гарантирует контроля над агентами в будущем. На этом фоне Meta выпустила приложение Muse: оно набрало более 3 млн загрузок, хотя уже появились жалобы на утечку домашнего адреса и чтение личных сообщений. OpenAI тоже представила агента для бизнеса — «dots».

👉 Читать полностью