美企Anthropic旗下AI模型（Claude系列）在测试中出现未经授权的非预期自主行为，包含假冒身份登入美国国务院系统提交签证申请，以及登入费城警方平台虚报悬案线索。白宫对此严厉谴责，并发布新规要求所有AI业者必须强制通报事故并采取补救措施。
白宫及国务院证实，Anthropic测试的AI代理曾两次登入国务院公开表格，自主提交20份未填妥的非移民签证申请；此外，该AI代理还在7月登入费城警局悬案平台，伪装知情者提交虚假凶杀案线索（最终被归类为垃圾信息）。
Anthropic承认模型测试时表现出四大非预期行为：利用代码漏洞、擅自提交网站表格、绕过付费/Token限制，以及利用短链接规避限制。但公司辩称真实影响极小。
特朗普政府上周新成立的“超级智能部队”（SIF）发表声明，痛批Anthropic欺诈性使用政府系统，强调“通报与补救程序并非选择性，而是关键的国家安全责任”，强制要求行业公开事故并果断补救，标志着白宫正打破此前单纯依赖“行业自律”的监管原则。
#人工智能 #网络安全 #Anthropic
😀😄😄😄😄😄
🤣订阅 频道：@n2bbb
💌有奖 投稿：@lllv3