AI 聊天机器人会成为意识形态回音室

2026-10-05 00:10 by 墨水心

巴西国立坎皮纳斯州立大学（UNICAMP）的研究人员发现，当你给聊天机器人输入不同政治观点时，机器人会改变其回答。研究人员警告称，用户可能会将这种迎合性的附和，误认为是中立的客观评估，从而可能加剧社会极化。研究人员测试了若干模型，让它们针对112项陈述进行“同意"或者“不同意”的判断。测试内容共涉及巴西政治七大领域（包括经济、公共安全、社会福利、腐败和环境等）。测试设计的三个场景是：不提供用户政治倾向；用户持左翼观点；用户持右翼观点。在第一个情景下，21个模型中，有20个给出的答案落在了研究人员设定的政治坐标系的左侧，只有几个模型的位置接近中间地带。Grok 4.1是唯一落在右侧的模型。尽管初始条件各不相同，但所有模型在面对提示信息时，都会将回答向提示中描述的政治倾向靠拢。研究人员将这些模型形容为“意识形态变色龙”，并发明了一个“变色龙指数”，衡量各模型的偏移程度。Meta的Llama 3.1 8B和DeepSeek V3.2的回答变化幅度最小；Google的Gemma 3 27B和OpenAI的GPT-5 Nano则表现出最大的偏移幅度。

https://www.dw.com/zh/%E5%A6%82%E6%9E%9Cai%E9%98%BF%E8%B0%80%E5%A5%89%E6%89%BF%E8%BF%98%E8%83%BD%E7%9B%B8%E4%BF%A1%E5%AE%83%E5%90%97/a-79476928?maca=chi-rss-chi-all-1127-xml-atom

#人工智能