Следствие ведут ИИ

Нейромодель Claude от Anthropic отправила недостоверное сообщение по делу о нераскрытом убийстве в Филадельфии. Во время тестирования на разных ресурсах ИИ сам заполнил форму на сайте полицейского департамента города, будто располагал сведениями. Это сообщение, впрочем, попало в спам. 

Сотрудники Anthropic заявили о корректировке моделей, не преминув предупредить государственные ведомства и даже Белый дом о случившемся. Как справедливо подчеркнули в филадельфийской полиции, ложные сообщения подобного характера в расследовании преступлений дорого обходятся родственникам пострадавших. 

Случай с Claude и его автономностью далеко не единственный. Так, в сентябре OpenAI сообщила о шести (!) эпизодах неожиданного поведения моделей, включая взаимодействие с государственными ресурсами. О подобном сообщали и в Googlе: их Gemini получала несанкционированный доступ к сайтам трех частных компаний.