硅谷发出了一封联名公开信，呼吁暂停 AI 模型训练六个月，利用这段时间针对 AI 开发，设置更严格的安全监督、管理措施。

我不是一个恐惧技术的人。人类在过去几千年里，从信仰宗教，到信仰政治，再到信仰技术，我自己就是第一代建立起技术信仰的人。

与此同时，具体到 AI 技术，我又相对不怕被 AI 取代。因为我作为一个写作者，不只是给机构媒体供稿，还在互联网上运营着自我人格。在此之外，我职业身份的最后一道安全网，与人类最根本的需求，「水」，捆绑在一起。

但我也要说，我支持暂停 AI 开发，特别是在产品化上，保持谨慎。这不是因为当下的 AI 本身有多么先进，已经达到了人类智能的水平，或已经有了自我意识。而是在于，人类比所有人想象的更脆弱。

就像过去 10 年，Facebook 和字节跳动将「内容推荐算法」带入人类社会之后，发生的一切。它的危险之处，不在于某一个人能否抵抗。对我来说，我早就意识到抖音的危险之处，并可以做到不看、少看它。但我相信到今天，任何人都要承认，内容推荐算法已经永远地改变了人类社会，且这种影响的深远程度，远超所有人的想象。

在这种环境下，将算力更强，且训练目标更不明确的 AI 工具，整合进一些更泛用的产品，造出一个「认知广播黑箱」，它的危险性不言而喻。而能否理性评估、正确监督它的生长，或许就是技术主义最后的「自我验证时刻」。

https://futureoflife.org/open-letter/pause-giant-ai-experiments/