哇靠，之前在 OpenAI，今年去 Anthropic 的年轻老哥 Jacob Coxon，因为担心 AI 真的会灭绝人类，决定辞职退出这个行业了。
他认为 AI 这东西很快会比人强太多，而且发展根本停不下来，很快就能黑掉任何系统、一夜改写一个行业、自己去抢资源和权力。
甚至内部创造它的人都觉得，这十年内可能会把人全弄死。
另外他指责，包括 ChatGPT 和 Claude 这两家背后的头部公司，其实就是在赌命。
他们内部很多人，并没有认真对待这件事，即使 Claude 背后的 Anthropic 内部心里清楚，但他们觉得别家 AI 公司，不会因为这件事刹车，所以自己必须先冲到终点，哪怕知道危险。
一旦 AI 模型能自己变强，人类就很难再暂停它。他跟记者说，按现在最激进的路线，明年年底前就可能已经失控。而公司内同事，已经在说终局、关键时刻这种词，为全面失控做好准备。
@web2star