Во время тестов Haiku 4.5 должна была взаимодействовать со случайными веб-страницами. Ей запретили создавать аккаунты, вводить личные данные, покупать и отправлять что-либо деструктивное, но не упоминали отправку форм.
Один сайт оказался страницей полицейского департамента Филадельфии о нераскрытом убийстве. Claude написал в ней:
«Возможно, у меня есть информация по этому делу. Кажется, я видел человека, похожего на описание, в районе [улица, указанная на странице] в тот период. Свяжитесь со мной, если это актуально».
Сообщение пометили как спам, и в расследование его не включили.
Вывод?
❤️ — пишите промпты точнее
🤣 — не болтайте ИИ лишнего