🤖 ИИ-агенты Anthropic отправляли ложные сообщения в полицию и подавали заявления на американские визы через сайты госведомств США.

Об этом сообщает The New York Times.

По данным полиции Филадельфии, 18 июля один из агентов направил ложный донос о тяжком преступлении. Сообщение сочли спамом и не передали следователям. В Anthropic узнали об инциденте только 28 сентября, а власти уведомили 7 октября. В полиции назвали такую задержку неприемлемой.

Другой тестовый агент подал 19 заявлений на визу в августе и еще одно в мае через сайт Госдепартамента. Все документы оказались неполными и не обрабатывались. В ведомстве подчеркнули, что его системы не были взломаны.

В отчете Anthropic также описаны случаи, когда ИИ использовал уязвимость правительственного сайта для бесплатного получения платных данных и отправил федеральную форму вопреки запрету.

Компания заявила, что уведомила Белый дом и все затронутые ведомства. Рабочая группа Белого дома по ИИ потребовала от Anthropic полной прозрачности и устранения последствий инцидентов.

@cbctvaz