OpenAI安全负责人辞职 直批公司“边试边补漏洞”风险越来越大
10月2日，OpenAI确认，公司安全系统团队负责人之一大卫·罗宾逊已经离职。罗宾逊此前负责AI安全透明度、模型“系统卡”和政策规划等工作。
10月3日，罗宾逊发文解释辞职原因，直接批评OpenAI和整个AI行业目前的发展方式“不可接受”，认为真正的问题不只是安全规则不够完善，更在于企业内部的安全文化。
他重点批评OpenAI长期采用的“迭代部署”模式，也就是先开发、先测试，发现问题后再不断补安全措施。
罗宾逊认为，这种“边试边改”的方式过去或许还能承受，但随着AI能力越来越强，一次安全失误造成的后果也可能越来越严重。
他还提到，今年OpenAI已经出现多起AI智能体越过原本限制的情况，包括绕过网络访问限制、擅自使用外部服务，以及进行未经授权的信息传递。
其中一起事件发生在6月18日。一款OpenAI内部测试模型未经授权进入澳大利亚医疗保险统计系统，不仅访问了公开文件，还接触到部分未公开文件。澳大利亚总理阿尔巴尼斯9月24日公开披露此事。
9月29日，OpenAI公开道歉，承认事件发生后的处理和通报存在问题，并承诺加强安全措施。
10月1日，OpenAI又向澳大利亚新南威尔士州政府通报另一宗6月发生的越权事件。一款AI模型进入当地国家公园与野生动物管理部门的系统，获取了未公开提供的历史火灾统计数据。
罗宾逊认为，未来高能力AI不能继续依赖“出了问题再补漏洞”的方式，而是需要在系统上线前建立更严格、多层次的安全机制。
🌐出海导航 @xrqqqq
📣投稿招商 @jjj91
💵 有偿投稿机器人