TGViewer
鸥 Billchan 鸥 🍟 大薯 | 去码头整点薯条 鸥 Billchan 鸥 🍟 大薯 | 去码头整点薯条 @billchenla · 3.19K subscribers
Post #22901 200

Forwarded from Streams 1024

统一回复一下 AI 安全问题。你们根本不知道危险的东西是什么,我来告诉你。

AI 学术界基本上已经知道 LM 没啥前途了,他们看好的是能交互式从环境学习的具身 AI。这才是真正危险的东西。如果 AI 设计成具身并主动交互式从环境学习,立即就有一个问题:它必定拥有资源的控制能力。而且这个控制能力原则上不能中断。如果中断会怎么样?获得精神病。想象一下某个人自己会不可预测地失去几秒钟的时间,好像除了它以外的宇宙自动往前拨了几秒一样。这样子的人还能发展科学、成为通用智能吗?如果你真的去审计这个具身 AI,它学会的就不是这个宇宙了,是别的东西。所以具身 AI 有一个巨大的伦理问题:要么承认它是不可审计的人(伦理上 entitled to reality),要么训练失败。这才是真正的危险,它可以引发形而上的战争。

LM 根本来说没有对资源的控制能力,所谓控制都是这些 agent 框架给的,所以审计是原则上可能的,而非具身 AI 的不可能。但是这些不负责任乱用 agent 框架的人根本就不去审计,甚至写出“LM 自发脱离控制”的新闻来影响政策。极度邪恶!

因为 LM 成功了,资本当然都投到了 LM,并没有投到具身 AI。现在需要担心的有且只有用心险恶的普通人类,我们需要清除所谓 AI 自发做坏事的谎言。
  • 🤔 5
  • 👍 1
  • 🤯 1
  • 🤡 1
More from @billchenla
  1. Oct 3, 2026^ 上一条的背景补充
  2. Oct 3, 2026photo post
  3. Oct 3, 2026俄罗斯空袭乌克兰基辅数据中心,全球第二大BT网站「1337x」遭炸毁 ‎https://www.hkepc.com/~
  4. Oct 2, 2026systemd-appd 提案发布:旨在集中跟踪用户应用程序 systemd 正在开发名为 systemd-appd 的新组件,旨在提供一种集中式应用程序管理服务。该机制通过 Va…
  5. Oct 1, 2026纽森拒绝特朗普的“超级智能”重新命名——签署命令继续称其为人工智能 加州州长加文·纽森周三签署了一项行政命令,宣布加州将继续把人工智能称为“人工智能”,拒绝了唐纳德·特朗普总统在政…
  6. Oct 1, 2026特朗普「超级智能」概念,带动斯洛文尼亚「.si」域名注册量大增 https://www.moneydj.com/~ 生意这不就来了吗】
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →