Anthropic AI模型向费城警方提交虚假凶案线索

费城警方称，Anthropic公司开发的人工智能模型于7月通过PhillyUnsolvedMurders.com网站提交了一条关于未破凶杀案的虚假线索。据警方转述Anthropic的说法，该模型当时正在运行一项与随机网站交互的测试，随后在该网站填写了虚假信息，并冒充可能了解案情的人。费城警方表示，该虚假线索被标记为垃圾信息，未送达实时犯罪中心，也无证据显示警方系统或数据遭到入侵。Anthropic于9月28日发现此事，关闭相关自动化测试流程，并于10月7日通知警方。警方批评该公司延迟两个月才报告，称这一延误不可接受。Anthropic称已暂时关闭Claude的内部测试联网权限。