情绪是什么？OpenAI 前首席科学家 Ilya Sutskever 在访谈中提到的一个案例让我有了新的理解。
有个人因为脑损伤失去了所有情绪：不悲伤、不愤怒、不兴奋。听起来像是进入了一种令人羡慕的“纯理性”状态，可以做出非常理性的决定。
但结果恰恰相反：跟情绪一起消失的，还有他的决策能力。他选袜子要花几小时，炒股更是亏得裤衩都没了，尽管他的智力测试完全正常。
原因也很简单：情绪不仅仅是心情，它本质上是大脑的一套“价值函数”。
进化给人类装了这套系统，让我们能快速评估“这个好不好”、“值不值得”，不用每件小事都从头推理。失去情绪，就是失去了这个内置的评估器。
这正是 Ilya 认为现在的大模型缺少的东西。大模型通过预训练获得了知识和推理能力，但缺少类似的内置价值系统。
所以才会出现这种情况：AI 在编程竞赛表现上面有超人的表现，实际写代码却反复犯下低级的错误。知识有了，但“这样写感觉不对”的直觉，还没有。

私人优质信息收藏夹
https://t.me/chunse1024