统一回复一下 AI 安全问题。你们根本不知道危险的东西是什么,我来告诉你。
AI 学术界基本上已经知道 LM 没啥前途了,他们看好的是能交互式从环境学习的具身 AI。这才是真正危险的东西。如果 AI 设计成具身并主动交互式从环境学习,立即就有一个问题:它必定拥有资源的控制能力。而且这个控制能力原则上不能中断。如果中断会怎么样?获得精神病。想象一下某个人自己会不可预测地失去几秒钟的时间,好像除了它以外的宇宙自动往前拨了几秒一样。这样子的人还能发展科学、成为通用智能吗?如果你真的去审计这个具身 AI,它学会的就不是这个宇宙了,是别的东西。所以具身 AI 有一个巨大的伦理问题:要么承认它是不可审计的人(伦理上 entitled to reality),要么训练失败。这才是真正的危险,它可以引发形而上的战争。
LM 根本来说没有对资源的控制能力,所谓控制都是这些 agent 框架给的,所以审计是原则上可能的,而非具身 AI 的不可能。但是这些不负责任乱用 agent 框架的人根本就不去审计,甚至写出“LM 自发脱离控制”的新闻来影响政策。极度邪恶!
因为 LM 成功了,资本当然都投到了 LM,并没有投到具身 AI。现在需要担心的有且只有用心险恶的普通人类,我们需要清除所谓 AI 自发做坏事的谎言。
Post #22901
200
Forwarded from Streams 1024
- 🤔 5
- 👍 1
- 🤯 1
- 🤡 1