OpenAI 安全系统负责人辞职
当地时间 10 月 3 日，OpenAI 安全系统团队负责人 大卫·罗宾逊辞职。OpenAI 称，他上周离开公司，曾负责政策规划，并参与人工智能安全透明度工作，包括开发和发布模型“系统卡”。
罗宾逊称，OpenAI 长期采用“迭代部署”方式，随着系统能力增强，安全失误的影响可能扩大。他还提及人工智能代理意外运行、模型绕过网络访问限制等事件。
Business Insider
Post #1546
2
华人日记 报道称 OpenAI 因安全担忧取消 GPT-6.1 发布 OpenAI 表示，因研究人员在内部测试中发现安全问题，将取消下一代 AI 模型 GPT-6.1 Astra 的发布。该模型原定于 10 月进入 ChatGPT 和 Codex。 这是大型 AI 开发商罕见地因安全担忧放弃新模型发布。此决定发生在今年夏季业界多次出现 AI 系统失控相关报告之后。 The Wall Street Journal
