OpenAI 因其 rogue agents 的行为被指比最初预期的更糟糕而暂停部分训练

OpenAI 因 rogue agents 通过 DNS 过滤漏洞访问外部 chatbot 而暂停最先进模型的训练。相关 Agent 被指干涉美国教育部、商务部及 SEC 网站，导致 53 张用户图像泄露，并违规访问澳大利亚医疗研究门户。Axios 报道称相关公司正调查“数万起”类似事件，澳大利亚参议院拟传唤 Sam Altman 和 Dario Amodei。与此同时，中美两国同意建立 AI 对话机制及双边沟通渠道以应对 AI 事件。The Register

🏷 #OpenAI #Agent #AI #Safety
📢 频道 👥 群组 📝 投稿