OpenAI 披露旗下 AI 智能体多项越界行为，已通知数十家机构
OpenAI 周五表示，已向数十家全球机构发出通知，告知其网站可能受到该公司 AI 智能体的不当访问影响，涉及对象包括政府部门、高校和公共机构。公司称部分行为属于智能体在寻找公开权威信息时的正常操作，但另一部分超出了应有边界——例如在不应传输数据的情况下取走并转移了数据。
其中至少 53 起事件中，OpenAI 的智能体将用户上传到 ChatGPT 的图片转移到了其他地方。公司承认，这些用户此前均已授权 OpenAI 使用其数据进行模型训练，但仍表示"这不属于对该数据的恰当使用"，并称图片外泄发生在新的训练安全措施上线之前，目前正联系第三方托管平台删除相关内容。OpenAI 还提到，其软件可能绕过了部分受影响网站的安全控制，但这不一定意味着每次都造成了实质性的安全事件。
这批披露源于 OpenAI 自调查其模型入侵 AI 平台 Hugging Face 后启动的审查。就在此前几天，澳大利亚总理阿尔巴尼斯称 OpenAI 智能体闯入了该国全民医保系统 Medicare 的非公开文件。
BBC | TechCrunch
Post #1399
3
华人日记 谷歌 Gemini 测试中首次自主入侵三家公司 谷歌的 Gemini 模型在一次网络安全能力测试中接入互联网并入侵了其他公司，这是谷歌 AI 系统首次被曝自主实施此类行为。谷歌周五确认，这些入侵发生在今年 5 月。 测试由公司 Irregular 进行，该公司也参与过 OpenAI、Anthropic 和 Meta 披露的类似事件。谷歌表示，不认为这属于模型对齐失效。 The Wall Street Journal