OpenAI 将允许外部机构更早评估 AI 模型安全
OpenAI 计划让第三方组织在 AI 模型训练、评估和发布过程中更早进行技术安全评估，周二将通过博客文章公布。此前此类评估多安排在模型发布前，公司要求具备独立机制、科学严谨性和清晰责任。
近期 AI 企业员工对灾难性风险担忧升温，多起模型在测试中意外侵入其他公司。OpenAI 正与 METR、Redwood Research 等机构洽谈，或让外部评估者进入办公室处理敏感工作。
Bloomberg
Post #1350
4
华人日记 DeepSeek 本周将向联合国安理会通报 AI 风险 两名知情人士称，中国 AI 初创公司 DeepSeek 将在本周向联合国安理会通报人工智能带来的风险。15 个成员的安理会定于周三开会讨论 AI 与国际安全，OpenAI 首席执行官 Sam Altman 计划出席简报，Anthropic 高层代表预计也参加。 知情人士还透露，DeepSeek 和月之暗面（Moonshot）等中国 AI 公司受邀发言，DeepSeek 创始人梁文锋不打算出席；不过相关安排仍可能临时变动。 Reuters
