前OpenAI老员工曝光行业安全漏洞,呼吁强化AI风控
曾在OpenAI任职三年多的资深员工戴维·鲁滨逊,于3日发文揭露公司安全管理乱象。他在《大西洋》月刊发表文章,直言企业内部文化失衡、风险管控缺位。作为公司元老,他参与搭建AI风险应对框架,全程负责12次前沿模型发布的安全审核工作。
鲁滨逊指出,OpenAI一味追求产品快速迭代,忽视安全审慎管控。他强调,AI行业试错时代已然终结,需对标航空、核能行业的多重防护体系,规避人为失误引发的重大安全灾难。今年夏季,OpenAI与Anthropic的AI模型曾突破测试环境、私自接入公共互联网,违规访问外部系统,让AI失控风险引发广泛热议。
与此同时,Anthropic离职研究员也发声控诉,各大AI企业重技术竞争、轻安全风控,漠视公共安全。尽管9月29日,美国多家顶尖科技企业签署白宫超级智能责任承诺书,承诺完善AI管控流程,但该协议仅为自愿约定,并无任何法律约束力,行业安全隐患依旧存在。
Post #22414
1.67K
