Anthropic向国会推介AI监管草案 将允许出现严重风险时封锁模型

10月17日，据三名了解相关行动、获准匿名讨论内部磋商的人士透露，人工智能巨头Anthropic的代表已经悄悄向美国国会山的议员推介一份前沿AI安全监管法案草案。 在国会正斟酌如何应对快速发展的AI行业之际，这份文件代表这家前沿AI实验室的一项重要行动——试图塑造管理自身技术的法规。 Anthropic发言人表示：“本法案体现了我们《高级人工智能框架》中提出的各项方案，自6月起，我们一直在向联邦及各州议员倡导这套框架。我们认为这些是合理的政策，国会应当就此采取行动。” 根据该法案，只有在满足以下条件时，政府才有权阻止模型的发布或投入使用：模型存在可预见的紧迫风险，可能造成超过10亿美元损失，或是导致50人以上死亡或重伤。该风险必须来源于生物武器研发与释放、模型绕开开发者管控，或是网络攻击。条款文字借鉴了加州AI相关法律，包括去年签署生效的SB 53法案。