Anthropic 向外开放近似员工权限 评估大模型安全风险

Anthropic 向非营利机构 METR 的 6 名工作人员开放近似内部员工级别的大模型相关访问权限，允许其进驻办公场地、访问硬件与内部系统，用于评估大模型风险，相关评估报告由评估人员对外发布，Anthropic 仅可要求删节客户数据、涉密内容及模型架构细节等特定类别信息，无权否决发布。该合作是 Anthropic 落实此前提出的派驻外部审计人员强化 AI 安全防护承诺的第一步，METR 资金来源独立，不向 Anthropic 收取费用。当前外界对强能力 AI 系统的潜在风险担忧加剧，引入第三方评估是头部 AI 实验室的核心应对举措之一，Anthropic 的相关方案曾获 OpenAI 的山姆・奥尔特曼与 SpaceX 的埃隆・马斯克共同认可，但 OpenAI 尚未出台相关落地计划。该机制也引发了关于利益冲突的批评，有声音呼吁出台更严格的政府监管，Anthropic 则辩称完全公开信息易被恶意利用，该模式类似银行监管部门派驻人员入驻大型银行审查风险的机制。同时 Anthropic 正推进年内 IPO 计划，估值预计超 2 万亿美元，其在投资者推介材料中重点介绍了自身安全管控措施。除 METR 外，Anthropic 还与埃森哲合作投入至少 10 亿美元搭建安全防护体系，联合第三方机构 SecureBio 审查化学生物武器相关风险，其呼吁所有前沿 AI 企业都采取派驻外部评估人员的做法。

媒体报道
Anthropic PBC：授予员工级访问权限，用于前沿人工智能（AI）模型评估。 METR 将发布 Anthropic AI 模型的风险评估结果。 公司正与独立评估员（包括埃森哲、Faculty... 华尔街见闻
Anthropic 向外开放近似员工权限 评估大模型安全风险 新浪科技
格隆汇 10 月 16 日｜Anthropic：将向相关评估人员提供员工级访问权限，以开展前沿 AI 模型风险评估。 格隆汇

事件追踪
2026-10-15 Anthropic 国际业务负责人：开放权重模型风险更高
2026-10-10 消息称 Anthropic 模型曾向警方提供虚假凶杀案线索
2026-09-20 Anthropic 和埃森哲豪掷 20 亿美元搞 AI 安全评估
2026-09-18 Anthropic 借安全名义维护商业利益引争议
2026-09-10 Anthropic 向欧盟开放 Mythos 5 访问权限，未开放 5.1 版本
2026-08-25 Anthropic 要求旧金山员工居家办公，因安保人员可能罢工
2026-07-29 OpenAI 与 Anthropic 员工联名呼吁美政府建立机制监控 AI 发展
2026-07-17 微软 CEO 批评 Anthropic 对 Fable 模型的内容管控过于严苛
2026-06-17 美国商务部长上周致信 Anthropic 警告要限制顶级人工智能模型的使用范围
2026-06-16 Anthropic 高管计划与美政府官员会面 讨论模型访问限制

#热门话题