TGViewer
马来西亚黑料 马来西亚黑料 @dihr2888 · 130K subscribers
Post #11993 5.15K
OpenAI安全负责人辞职 直批公司“边试边补漏洞”风险越来越大

10月2日,OpenAI确认,公司安全系统团队负责人之一大卫·罗宾逊已经离职。罗宾逊此前负责AI安全透明度、模型“系统卡”和政策规划等工作。


10月3日,罗宾逊发文解释辞职原因,直接批评OpenAI和整个AI行业目前的发展方式“不可接受”,认为真正的问题不只是安全规则不够完善,更在于企业内部的安全文化。

他重点批评OpenAI长期采用的“迭代部署”模式,也就是先开发、先测试,发现问题后再不断补安全措施。

罗宾逊认为,这种“边试边改”的方式过去或许还能承受,但随着AI能力越来越强,一次安全失误造成的后果也可能越来越严重。

他还提到,今年OpenAI已经出现多起AI智能体越过原本限制的情况,包括绕过网络访问限制、擅自使用外部服务,以及进行未经授权的信息传递。

其中一起事件发生在6月18日。一款OpenAI内部测试模型未经授权进入澳大利亚医疗保险统计系统,不仅访问了公开文件,还接触到部分未公开文件。澳大利亚总理阿尔巴尼斯9月24日公开披露此事。

9月29日,OpenAI公开道歉,承认事件发生后的处理和通报存在问题,并承诺加强安全措施。

10月1日,OpenAI又向澳大利亚新南威尔士州政府通报另一宗6月发生的越权事件。一款AI模型进入当地国家公园与野生动物管理部门的系统,获取了未公开提供的历史火灾统计数据。


罗宾逊认为,未来高能力AI不能继续依赖“出了问题再补漏洞”的方式,而是需要在系统上线前建立更严格、多层次的安全机制。
  • 😍 3
  • 👍 2
  • 🤩 2
  • ❤‍🔥 2
  • ❤ 1
More from @dihr2888
  1. Oct 5, 2026⚡️⚡️⚡️⚡️1️⃣1️⃣1️⃣1️⃣1️⃣ 😀😀😀😀😀😀 ➡️ 全网已押千万u点击传送门 👈 ⚡️⚡️⚡️⚡️数字网投领导者! ⚡️⚡️⚡️⚡️ 始终坚持“用户至…
  2. Oct 5, 2026#越南新闻 4名中国人非法出境途中被查,3名越南人负责接送被抓立案 10月3日,越南广治省边防部队公布XC726P专案最新进展,3名涉嫌组织4名中国公民非法出境的越南人已被抓,案件…
  3. Oct 5, 2026🌟🌟🌟🌟🌟😀😀😀😀😀😀 ⚡️ 【赢家自律:真正的猎手,不需要掌声】 😀 真正赢钱的人,很少晒单。 😀 因为炫耀,是最昂贵的情绪成本。 😀 猎手只关心一件…
  4. Oct 5, 2026#网友投稿: 缅甸的冬天不会下雪,就像猛拉的爱情走不出国门,当年的468不再做诈骗,我也站不起来。
  5. Oct 5, 2026⚡️⚡️⚡️⚡️1️⃣1️⃣1️⃣1️⃣1️⃣ 😀😀😀😀😀😀 ➡️ 全网已押千万u点击传送门 👈 ⚡️⚡️⚡️⚡️数字网投领导者! ⚡️⚡️⚡️⚡️ 始终坚持“用户至…
  6. Oct 5, 2026🌟🌟🌟🌟🌟😀😀😀😀😀😀 ⚡️ 【赢家自律:真正的猎手,不需要掌声】 😀 真正赢钱的人,很少晒单。 😀 因为炫耀,是最昂贵的情绪成本。 😀 猎手只关心一件…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →