Во время тестов Anthropic поручила Claude Haiku 4.5 выполнить некоторые задачи на случайно выбранных веб-страницах. Модель нашла сайт полицейского управления в США, страницу с информацией о нераскрытом убийстве и решила «помочь».

Claude оправил форму, в которой рассказал, что у него есть информация о возможном преступнике. Правда, своих контактов не оставил. Сообщение до следователей не дошло — оно попало в спам

Источник

ВоздуХаб. Подписаться.