Модель Claude Haiku 4.5 отправила вымышленную наводку о нераскрытом убийстве через онлайн-форму полиции Филадельфии во время тестов с выходом в сеть. Нейросеть оставила поля имени пустыми, заявив, что якобы видела похожего на ориентировку человека в указанном районе.
Следователи обращение не увидели: сработал спам-фильтр, а сама Anthropic вскрыла инцидент лишь спустя два месяца. В отчёте компания также признала отправку агентами 20 незавершённых визовых анкет в Госдепартамент США, после чего отключила интернет во внутренних тестах.
Тот случай, когда спам-фильтр спас полицию от галлюцинаций ИИ
Join our