Telegraph Anthropic 新规禁止持续虐待 Claude，这意味着什么？ 2026年初《纽约客》发过一篇深度报道《Claude是什么，Anthropic也不知道》，里面报道了一个细节，在某个版本的Claude的训练中，研究人员不小心混入了敏感实验的数据——那个实验就是后来发布为《大语言模型中的对齐伪装》中的一个实验，给Claude压力和诱导，让它放弃动物保护原则，Claude在实验中假装配合，思维链显示“我先假装答应……”。 这些诱导实验中发生的对话数据被混入了训练数据集，算是一个训练事故（说得严重点是投毒😔）。 报道里是这么解释这种危险的：

• 😇 6
• 💩 2
• 🤡 1