Anthropic称新防护措施大幅减少AI蒸馏攻击

Anthropic周一表示，其防止竞争对手复制Claude模型能力的新措施已将所谓蒸馏攻击中获取的数据减少约90%至99%。该公司称，限制访问Claude推理功能的防护措施大幅减少了提取尝试，蒸馏者提取的推理令牌数量比之前低10至100倍。这家总部位于加州的公司表示，已加大利用代理网络反复探测Claude受保护推理的难度，阻止提取尝试并阻碍大规模蒸馏行为。Anthropic称其安全系统与防止Claude协助制造生物武器的系统同样稳健，误报率低于0.1%。该公司封禁了数万个与蒸馏活动相关的账户，并点名中国AI初创公司Z.ai（又称智谱）在开发GLM-5.3模型时试图蒸馏Claude能力，警告此类做法构成安全和国家安全风险。Z.ai未立即回应置评请求。——路透社