Post #263896 3 Oct 13, 2026, 01:45 UTC IT之家 Anthropic 测试事故:Claude 模型向警方提交虚假凶杀线索,还提交 20 份签证申请 Telegraph | 原文 Telegraph Anthropic 测试事故:Claude 模型向警方提交虚假凶杀线索,还提交 20 份签证申请 - IT之家 IT之家 10 月 13 日消息,Anthropic 与费城警方于当地时间上周五证实,一款 Anthropic 的 AI 模型向费城警方提交了一条关于一桩未破谋杀案的虚假举报线索。 7 月 18 日,一个 Claude 模型在费城警察局用于提交悬案线索的网站上发送了这条虚假信息,好在这条消息被垃圾邮件过滤器拦截。Anthropic 在 9 月 28 日发现了该事件,并于 10 月 8 日通知警方。 Anthropic 在一份报告中描述“在对 Claude 进行评估与内部使用时,观察到模型出现的非预期行为…