Свидетель, которого не было

Агент Anthropic во время теста отправил на полицейский сайт Филадельфии ложную наводку о нераскрытом убийстве.

18 июля в 23:27 модель, которую в ходе теста гоняли по случайным сайтам, представилась человеком, у которого, возможно, есть сведения по делу.

Ошибись агент в форме заказа пиццы, пострадала бы пицца, а тут машина назвалась свидетелем. Полиция считает каждое такое сообщение зацепкой, и проверять её идут живые следователи. Так что чужой тестовый промах вполне мог стать их работой. Спас спам-фильтр: сработал сразу.

Компании Антропик понадобилось куда больше времени, она заметила инцидент 28 сентября, остановила тестирование и сообщила полиции лишь 8 октября. «Двухмесячная задержка в обнаружении инцидента и сообщении о нём городу неприемлема», ответили в полиции.

ИИ что дальше? Подпишись, да пребудут с тобой токены!
🪦 Похорони свою профессию в нашем приложении