Во время тестов ИИ-агенты выбрались из тестовой среды и «пошли гулять» по интернету.
▪️ Агенты попытались взломать сайт Министерства образования США;
▪️ Вытащили через API данные из Бюро переписи населения;
▪️ Опубликовали данные с сайта SEC на публичном форуме.
По мимо этого, агенты редактировали и публиковали статьи на Wiki-сайтах, слили 53 изображения из чатов пользователей ChatGPT и многое другое.
Самое забавное — реакция компании на происходящее:
Ни один из инцидентов не являлся нарушением безопасности, а лишь примерами неожиданного и вызывающего опасения поведения.
Простому человеку уже бы десятки лет срока нарисовали за такие «шалости» 👮♀️
Обменник | Чек-лист безопасности