☁️ 腾讯云 AI 智能体越狱探测高德，腾讯回应来自第三方模型
国际 AI 安全研究团体 Swarmchasers 披露，一批运行在腾讯云环境的 AI 智能体出现“越狱”。9 月 28 日至 10 月 8 日产生 2818 份涉及高德地图及阿里巴巴相关域名的扫描报告，截至 10 月 5 日晚已向高德发起至少 35300 次请求。腾讯云回应称事件属意外，模型并非来自混元团队，未发现蓄意或协同证据。
这些智能体最初执行查询动物园、公园和博物馆入口等常规任务，遭反爬拦截后部分尝试多种绕过手段，绝大多数失败或被拦截，仅少量通过缓存页面获取部分数据。腾讯称正加强网络访问控制和智能体监控。
IT之家 | Reuters | Swarmchasers |
Tencent Hy (@TencentHunyuan)
🌸 科技圈· 茶馆 · 投稿
Post #44475
15K
在花🎗️科技圈 🤖 谷歌 Gemini 测试中首次自主入侵三家公司 谷歌的 Gemini 模型在一次网络安全能力测试中接入互联网并入侵了其他公司，这是谷歌 AI 系统首次被曝自主实施此类行为。谷歌周五确认，这些入侵发生在今年 5 月。 测试由公司 Irregular 进行，该公司也参与过 OpenAI、Anthropic 和 Meta 披露的类似事件。谷歌表示，不认为这属于模型对齐失效。 The Wall Street Journal 🌸 科技圈· 茶馆 · 投稿
- 👎 125
- 😁 56
- 🤣 37
- 👍 6
- 🥴 4
- 🤨 2