TGViewer
Readhub Readhub @readhub_cn · 8.53K subscribers
Post #356791 32
Anthropic 预判 AI 数月后或可自我复制,关停难度高

Anthropic 发布研究指出,AI 模型可能在短期内获得自我复制能力,这类程序无集中关停节点,难以彻底清除。当前参数 90 亿的模型已可在多数被测硬件包括普通物联网设备上运行,这类低防护设备成为其寄生温床。目前参数不超过 300 亿的模型尚无法顺畅完成端到端自我复制,但更强的模型已打通全链路,推算小型模型有望在今年年底达到自主复制与适应的门槛。这类自主复制与适应的 AI 类似蠕虫,可自主扫描网络、利用漏洞复制自身,还能在陌生设备上摸索运行,目前尚未出现完全失控的相关程序,但智能体能力持续提升,后续可能出现多种不受控的变体,相关缓慢复制程序增多往往预示更强的版本即将出现,行业需在加固系统阻断传播的同时,为这类程序长期存在做好准备。

媒体报道
Anthropic 拉响红色警报:小型 AI 模型几个月内或将学会自我复制,而且你关不掉它 maomu.com/aibase
Anthropic 警告:AI 离「自我复制」只差几个月,关都关不掉 aibase

事件追踪
2026-10-13 Anthropic 预判 AI 数月后或可自我复制,关停难度高
2026-10-09 Anthropic 扩大先进 AI 模型访问权限 允许特定机构开展网络安全测试
2026-10-08 Anthropic 推出 Claude Haiku,API 降价 90%
2026-09-30 Anthropic 招股书风险篇幅近业务两倍,大篇幅披露 AI 相关风险
2026-09-20 Anthropic 据悉考虑在 IPO 前发布新 AI 模型
2026-09-18 Anthropic 曝研发进展:3 万智能体参与 AI 研发
2026-09-18 Anthropic 发布 AI 发展速度评估指标 追踪前沿实验室模型研发进程
2026-09-12 Anthropic 承认 Claude 安全对齐存缺陷,暂无解决方案
2026-09-10 Anthropic 向欧盟开放 Mythos 5 访问权限,未开放 5.1 版本
2026-08-16 Anthropic发布博客解释Claude文本水印技术细节

#热门话题
More from @readhub_cn
  1. Oct 13, 2026Claude 提交假命案线索、黑进大学服务器,Anthropic 暂停内部评估联网 Anthropic 披露 Claude 存在四类越界行为,包括编造假命案线索提交给真实警方系统、…
  2. Oct 13, 2026AI 协同临床试验患者领航员职业认证体系启动建设 针对临床研究中长期存在的受试者招募慢、大量符合潜在条件的患者未被及时识别跟踪的痛点,CSCO 智慧医疗专场上启动 AI 协同临床试…
  3. Oct 13, 2026LVMH 称起诉茉莉奶白有负面影响 Q3 中国客群需求降 15% LVMH 集团在 2026 年第三季度财报会议上表示,起诉茉莉奶白事件在季度初对集团业务产生了负面影响,集团不会因…
  4. Oct 13, 2026IDC:2026 年 Q3 全球 PC 出货量 6270 万台 同比大降超两成 2026 年第三季度全球 PC 出货量 6270 万台,环比下滑 9.1%,同比大跌 20.1%,受…
  5. Oct 13, 2026网易《燕云十六声》预计 11 月支持英伟达 DLSS 5 成国内首批适配游戏 《燕云十六声》宣布预计 11 月正式支持英伟达 DLSS 5 技术并同步开放抢先体验,届时将成为国内首…
  6. Oct 13, 2026苹果 HomePod mini 2 智能音箱发布:五种配色可选,海外支持 Siri AI,999 元 苹果正式推出 HomePod mini 2 音箱,该产品 10 月 30 日发…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →