Anthropic 报告称小模型或可实现自我复制,AI 蠕虫或威胁物联网安全
Anthropic 前沿红队发布报告指出,AI 自我复制无需昂贵数据中心,缺乏安全防护的商用 IoT 设备可成为新型 AI 蠕虫的宿主,数月后小型 AI 模型或可在这类设备上实现自我复制。研究人员用 15 台内存 4GB 的廉价安卓电视盒组成局域网,通过分层并行运行的方式成功驱动了 260 亿参数的大模型,打破了 AI 模型的生存门槛。测试显示 9B 级小模型已可在多数陌生硬件上自主搭建推理环境,更强的模型能在隔离网络环境中完成端到端自我复制,这类 AI 蠕虫还可通过记录感染失败的经验并遗传给下一代,实现拉马克式进化,代际更迭后感染成功率可从 45% 提升至 84%。和传统僵尸网络等死代码不同,AI 蠕虫是具备自主适配能力的活体智能,无中心化控制节点,隐蔽性和生存能力极强。结合当前模型能力迭代速度推算,2026 年底小模型的智力水平将击穿自我复制能力底线,迎来 AI 蠕虫的实用级爆发,大量算力更强的智能设备将成为其繁衍的温床。
媒体报道
Anthropic 惊人预警:小模型已有生命迹象,AI 蠕虫恐引爆全球物联网灾难 36Kr/投资界/maomu.com/华尔街见闻
Anthropic 惊人预警:小模型已有生命迹象!AI 蠕虫恐引爆全球物联网灾难 格隆汇/maomu.com
事件追踪
2026-10-10 消息称 Anthropic 模型曾向警方提供虚假凶杀案线索
2026-09-13 Anthropic CEO公开信:呼吁放慢AI模型的发展速度
2026-09-10 Anthropic 向欧盟开放 Mythos 5 访问权限,未开放 5.1 版本
2026-09-01 Anthropic 宣布暂时暂停部分 AI 训练和网络安全评估工作
2026-05-26 Anthropic 即将发布新一代模型 Mythos,或引发安全隐忧
2026-04-08 Anthropic在源代码泄露数日后推出网络安全AI模型
2026-03-28 Anthropic 新模型意外泄露,网络安全股开盘大跌
2025-08-28 Anthropic宣传挫败黑客滥用Claude AI实施网络犯罪的企图
#热门话题
Post #356806
20