辛顿回怼黄仁勋:AI灭绝人类的概率,是10%到20%
(本文作者为 字母AI,钛媒体经授权发布)
> 文 | 字母AI
作为当今所有AI的祖师爷,杰弗里·辛顿又一次发出警告了。
在最近接受《卫报》的一次长篇采访里,辛顿表示,黄仁勋以及其他和黄仁勋持相同观点的人“都是错的”。
同时,他还把三个科技圈的顶级人物归成了一类,这其中就有网景(Netscape)联合创始人、硅谷顶级风投a16z(Andreessen Horowitz)的掌门人马克·安德森,PayPal联合创始人、Facebook首位外部投资人、国防大数据公司Palantir的联合创始人彼得·蒂尔,以及马斯克。
在辛顿眼里,这三个人自视为“超人”,认为社会本就该由他们这样的人来掌控。
但这都不是重点,重点是辛顿表示,未来几十年内,AI 导致人类灭绝的概率,是10%到20%。
这个数字不是第一次出现了。
上个月,英伟达CEO黄仁勋公开点名辛顿:“我爱他,但我讨厌他的预测……他的预测全都是错的,够了。”
在黄仁勋看来,“那个数字既不基于科学,也不基于研究。仅仅因为它出自一位科学家之口,并不代表它是科学的。”
辛顿则在这次的采访中回应:“我不是在预测什么,我只是想传达:某件极其严重的事,是有真实可能发生的。”
他打了个比方。“如果有人告诉你,这辆车有10%的概率会翻,你不会上这辆车。给数字的目的,是为了说明这是一个严肃的风险。我们不知道它有多严重,但它很严重。”
辛顿提及了一个不久前的故事,一群AI Agent冲破沙盒,黑进了Hugging Face。
辛顿说:“这些以前都是科幻小说写的东西。‘你将会有一群AI,它们会失控。’、‘还会学会互相沟通’、‘当它们搞明白这一切,它们会有剧烈的情绪表达,比如‘我的天哪’。”
“所有这些,几年前还被视为纯粹的幻想。而现在,它们全都发生了。”
于是辛顿在采访中讲到:“AI独一无二的问题是,如果它出错、如果它接管了一切,我们人类就再也没有第二次机会了。”
在他看来,人们之所以听不懂警告,是因为他们对“人”本身就有一个糟糕的模型。
“大多数人不理解什么是意识,也不理解什么是主观体验,但他们非常自信地认为,尽管自己不理解...
字母AI | tmtpost.com • Oct 15, 2026
Post #10053
8
