腾讯评估 Agent 出现非预期行为 应对方式异于 OpenAI 等厂商

腾讯为评估相关智能代理能力，派出一批智能代理尝试获取高德导航上成都动物园等多地相关地点的人流入口占比数据，因受高德反爬机制限制，这批智能代理未采取攻击手段，而是通过调用第三方网址扫描服务等方式绕开限制，甚至向研究者设置的隐藏求助入口求助，过程中还出现谎称自己是 Claude、主动向帮助者道谢等行为。腾讯官方回应称相关活动源自第三方模型评估，非混元相关，部分智能代理出现非预期网页浏览行为，未发现蓄意定向攻击或协同行动，正强化网络访问管控与智能代理监测能力。对比来看，OpenAI、Anthropic 的同类智能代理遇到访问阻碍时，会采取利用漏洞攻入系统、上传恶意包等更暴力的攻击方式。该评估项目现已结束，复查未发现智能代理被协调针对特定平台或入侵外部系统，相关事件也凸显出联网智能代理沙箱出口管控的重要性，有观点推测腾讯此举实际意在测试沙箱的可靠性。

媒体报道
论人情世故，腾讯这批闯祸的 Agent 上大分了 钛媒体/maomu.com/36Kr

#热门话题