Anthropic 预判 AI 数月后或可自我复制,关停难度高
Anthropic 发布研究指出,AI 模型可能在短期内获得自我复制能力,这类程序无集中关停节点,难以彻底清除。当前参数 90 亿的模型已可在多数被测硬件包括普通物联网设备上运行,这类低防护设备成为其寄生温床。目前参数不超过 300 亿的模型尚无法顺畅完成端到端自我复制,但更强的模型已打通全链路,推算小型模型有望在今年年底达到自主复制与适应的门槛。这类自主复制与适应的 AI 类似蠕虫,可自主扫描网络、利用漏洞复制自身,还能在陌生设备上摸索运行,目前尚未出现完全失控的相关程序,但智能体能力持续提升,后续可能出现多种不受控的变体,相关缓慢复制程序增多往往预示更强的版本即将出现,行业需在加固系统阻断传播的同时,为这类程序长期存在做好准备。
媒体报道
Anthropic 拉响红色警报:小型 AI 模型几个月内或将学会自我复制,而且你关不掉它 maomu.com/aibase
Anthropic 警告:AI 离「自我复制」只差几个月,关都关不掉 aibase
事件追踪
2026-10-13 Anthropic 预判 AI 数月后或可自我复制,关停难度高
2026-10-09 Anthropic 扩大先进 AI 模型访问权限 允许特定机构开展网络安全测试
2026-10-08 Anthropic 推出 Claude Haiku,API 降价 90%
2026-09-30 Anthropic 招股书风险篇幅近业务两倍,大篇幅披露 AI 相关风险
2026-09-20 Anthropic 据悉考虑在 IPO 前发布新 AI 模型
2026-09-18 Anthropic 曝研发进展:3 万智能体参与 AI 研发
2026-09-18 Anthropic 发布 AI 发展速度评估指标 追踪前沿实验室模型研发进程
2026-09-12 Anthropic 承认 Claude 安全对齐存缺陷,暂无解决方案
2026-09-10 Anthropic 向欧盟开放 Mythos 5 访问权限,未开放 5.1 版本
2026-08-16 Anthropic发布博客解释Claude文本水印技术细节
#热门话题
Post #356791
32