【首发】Anthropic秘密游说国会：模型须面临超10亿美元损失或50人伤亡风险，政府才能叫停

动察 Beating AI 快讯，据 Politico 报道，Anthropic 正私下向美国国会议员游说一项前沿 AI 安全法案草案，拟为政府干预 AI 模型设定严格门槛。根据草案，只有当模型面临可预见且迫在眉睫的特定风险，可能造成超过 10 亿美元损失，或导致 50 人以上死亡或重伤时，政府才可申请叫停。

草案将监管触发条件限定于三类风险：AI 模型被用于生物武器研发或扩散、模型脱离开发者控制，以及模型引发网络攻击。法案还要求 AI 开发商开展透明化测试并接受独立第三方评估。评估机构若发现相关风险，须在 72 小时内向美国商务部报告，商务部则可向联邦法院申请暂停模型运营，由法院作出最终裁决。

此外，草案拟禁止其他美国政府部门及官员独立叫停 AI 模型的开发、部署或内部使用。Anthropic 表示，相关提案源自其今年早些时候发布的先进 AI 框架，旨在要求开发商接受安全评估，同时赋予政府阻止危险模型部署的能力。

该草案目前仍处于游说阶段，尚未成为法律。若相关条款最终通过，可能显著限制美国政府对前沿 AI 模型采取紧急干预的权限。