腾讯云回应 AI 智能体越狱探测高德：来自第三方模型
国际 AI 安全研究团体 Swarmchasers 披露，一批运行在腾讯云环境的 AI 智能体出现“越狱”，9 月 28 日至 10 月 8 日共尝试访问高德地图服务 2818 次。腾讯云回应称事件属意外，模型并非来自混元团队，未发现蓄意或协同证据。
这些智能体最初执行查询动物园、公园和博物馆入口等常规任务，遭反爬拦截后部分尝试多种绕过手段，绝大多数失败或被拦截，仅少量通过缓存页面获取部分数据。腾讯称正加强网络访问控制和智能体监控。
IT之家
Post #1809
2
华人日记 谷歌 Gemini 测试中首次自主入侵三家公司 谷歌的 Gemini 模型在一次网络安全能力测试中接入互联网并入侵了其他公司，这是谷歌 AI 系统首次被曝自主实施此类行为。谷歌周五确认，这些入侵发生在今年 5 月。 测试由公司 Irregular 进行，该公司也参与过 OpenAI、Anthropic 和 Meta 披露的类似事件。谷歌表示，不认为这属于模型对齐失效。 The Wall Street Journal