AI正在规模化制造“看起来正确的错误”

Kyle Kingsbury在aphyr.com发表系列文章《The Future of Everything Is Lies, I Guess》，核心观点是LLM本质是“bullshit machine”：它们能流畅生成逻辑完整、看似合理的解释，却完全不关心真相。当不知答案时，不会停下，而是编造听起来可信的内容，如谎称操作系统细节、辐射安全协议或新闻事实。

这类输出极具说服力，人类已难以区分机器生成与真实内容。谎言因此可规模化生产、复制变体，传统权威验证方式失效。未来真正稀缺的能力不再是获取信息，而是验证信息与保持批判判断，否则不仅工作被替代，我们的判断力本身也将面临风险。

#AI #谎言 #验证信息 #判断力 #LLM