Anthropic称新防护措施大幅减少了“蒸馏攻击”的数据窃取量

Anthropic 周一表示，旨在防止竞争对手复制其 Claude AI 模型能力的新措施，已使所谓的“蒸馏攻击”所窃取的数据量减少了约 90% 至 99%。

模型蒸馏已成为顶尖人工智能公司关注的焦点；Anthropic、OpenAI 和谷歌等公司认为，这种做法使竞争对手能够以更低的成本、更快的速度复制其先进能力。

Anthropic表示，旨在限制访问 Claude 推理能力的防护措施已大幅减少了针对该模型的提取尝试，目前“通过蒸馏手段提取出的推理 Token 数量”已降至“此前的 1/100 到 1/10”。

这家总部位于加利福尼亚州的公司表示，已加大利用代理网络反复探测 Claude 受保护推理过程的难度，从而阻断了数据提取企图并妨碍了大规模模型蒸馏活动。

Anthropic 称其安全系统的稳健程度“大致相当于防止 Claude 协助制造生物武器的系统”，且“误报率低于 0.1%”。

https://www.cnbeta.com.tw/articles/tech/1581930.htm