Модель искусственного интеллекта от компании Anthropic отправила в полицию Филадельфии ложную информацию по одному из нераскрытых убийств. Сообщение было отправлено 18 июля через общедоступный сайт, на котором люди могут делиться информацией о нераскрытых преступлениях. ИИ-модель написала, что располагает сведениями по одному из нераскрытых убийств, и что видела «человека, подходящего под описание».
«Возможно, у меня есть информация, касающаяся этого дела. Я припоминаю, что видел человека, подходящего под описание, в районе <…> в тот период времени. Пожалуйста, свяжитесь со мной, если эта информация актуальна»,— говорилось в сообщении.
В полиции пометили сообщение как спам и не стали передавать следователям. BBC News отмечает, что это, скорее всего, первый случай, когда ИИ-агент отправил властям ложную информацию.
По данным полиции, компания Anthropic обнаружила эти действия своей ИИ-модели 28 сентября — через два месяца после отправки сообщения. Власти Филадельфии компания уведомила только 7 октября.