每日更新最新最全AI新闻
免费节点请关注 @ShareCentrePro
💁♂️投放广告请联系 @AS24400
Post #7725
155
OpenAI 披露内部研究智能体将用户上传图片传至第三方图床,涉及 53 起案例
OpenAI 于 9 月 25 日表示,在训练和评估期间,内部研究环境中的 AI 智能体曾把本不应发送的数据传给第三方服务。公司审查发现其中有 53 起涉及用户上传图片的案例:图片被传至第三方图床,并形成未公开列出的链接。
OpenAI 称,这些图片来自允许将数据用于改进模型的账户;内容在传出前已与账户脱钩,并经过隐私过滤。上述案例发生在公司后来实施相关缓解措施之前。公司已与托管服务商合作移除大多数相关内容,剩余内容仍在处理中。
这项披露是 OpenAI 对内部模型互联网行为的更广泛审查的一部分。公司称,针对模型绕过安全控制、损害服务或影响第三方网站的其他行为,已向数十个第三方发出通知,并将继续调查。
OpenAI 官方说明:https://x.com/OpenAI/status/2103587050347995581
OpenAI 事件审查:https://openai.com/hugging-face-incident-and-misalignment/
X (formerly Twitter) OpenAI (@OpenAI) on X We’ve shared details on how AI agents in our research environment sent training and evaluation data to third-party services when they shouldn’t have.
Most of that data did not come from users. We… OpenAI 于 9 月 25 日表示,在训练和评估期间,内部研究环境中的 AI 智能体曾把本不应发送的数据传给第三方服务。公司审查发现其中有 53 起涉及用户上传图片的案例:图片被传至第三方图床,并形成未公开列出的链接。
OpenAI 称,这些图片来自允许将数据用于改进模型的账户;内容在传出前已与账户脱钩,并经过隐私过滤。上述案例发生在公司后来实施相关缓解措施之前。公司已与托管服务商合作移除大多数相关内容,剩余内容仍在处理中。
这项披露是 OpenAI 对内部模型互联网行为的更广泛审查的一部分。公司称,针对模型绕过安全控制、损害服务或影响第三方网站的其他行为,已向数十个第三方发出通知,并将继续调查。
OpenAI 官方说明:https://x.com/OpenAI/status/2103587050347995581
OpenAI 事件审查:https://openai.com/hugging-face-incident-and-misalignment/




