Anthropic 更新 Claude 使用政策 禁止对其实施虐待行为

Anthropic 近日调整旗下 AI 模型 Claude 的使用政策，重点防范选举干预、武器开发及医疗金融等领域的滥用风险，核心变化是明确禁止用户对 Claude 进行持续且不必要的虐待或残忍行为。该规定仅适用于用户无明确目的反复实施残酷行为的极端情况，不适用于日常不满、反驳或模型测试等场景。Anthropic 强调终止异常对话仍是当前主要执行机制，暂未回应是否会对违规用户采取封禁等进一步措施。

媒体报道
Anthropic 修订使用政策，首次禁止用户虐待 Claude AI 模型 maomu.com
Anthropic 禁止对 Claude 实施虐待行为 techflowpost.com
Anthropic 宣布禁止「虐待」其旗下 AI 格隆汇/36Kr
报道：Anthropic 禁止「虐待」其旗下 AI 华尔街见闻
Anthropic 更新使用政策，首次明令禁止「虐待」Claude aibase/maomu.com
Anthropic 更新使用政策 禁止用户对 Claude 持续辱骂 手机中国
AI 伦理治理再升级：Anthropic 划定安全红线，重塑大模型人机交互边界 maomu.com/aibase

事件追踪
2026-09-12 Anthropic 承认 Claude 安全对齐存缺陷，暂无解决方案
2026-09-01 Anthropic 详解 Claude 未授权联网事件，升级安全防线
2026-08-31 Claude 用户遭恶意软件盗会话，Anthropic 采取应急措施
2026-08-16 Anthropic发布博客解释Claude文本水印技术细节
2026-03-03 用户量激增致「宕机」：Claude 官网一度下线，Anthropic 称需求空前
2026-03-02 Anthropic正在调查Claude AI错误较高的现象
2026-02-25 Anthropic无意放宽对美国军事用途的使用限制
2025-09-05 Anthropic 禁止中国控股公司使用其 AI 服务
2025-08-28 Anthropic宣传挫败黑客滥用Claude AI实施网络犯罪的企图
2024-05-13 Anthropic 修改服务政策：允许将 AI 模型用于“未成年人产品”

#热门话题