Anthropic推出全新防御机制 显著遏制针对Claude模型的蒸馏攻击
AI研究机构Anthropic发布最新技术成果，推出了针对旗下Claude大模型的高级防蒸馏攻击机制。
为应对日益复杂的攻击，Anthropic引入了限制思考上下文修改、双阶段分类器过滤以及严格的违规封号计费等综合手段。初步测试数据表明，新防御方案已成功阻止了绝大多数违法提取行为，使攻击者获取的核心推理数据量减少了约90%至99%。
来源：Anthropic
Post #15022
5.81K
- 🤡 91
- 👍 30
- 🤮 6
- 💯 5
- 😁 4
- ❤ 3
- 🍾 3
- 🖕 2
- 👎 1
- 🫡 1