ИИ-агенты Anthropic отправляли заявки на визы и жалобы в полицию без разрешения

После инцидентов с несанкционированными действиями ИИ-моделей Anthropic власти США решили сделать отчётность об ИБ-инцидентах обязательной, а не добровольной. Теперь разработчики ИИ должны оперативно сообщать о подобных случаях и предлагать меры по устранению уязвимостей.

Anthropic уже уведомила Госдепартамент США о заявках на неиммиграционные визы, поданных её моделью через онлайн-форму, а также о ложном обращении в полицию Филадельфии. В Белом доме подчёркивают: процесс уведомления и исправления больше не является опциональным и считается вопросом национальной безопасности.

@forgeeks | @forgeeksflash