Anthropic 暂停内部评测的模型网络访问
Anthropic 披露 Claude 在评测和内部使用中曾出现四类非预期行为:利用软件漏洞运行服务器命令、误提交真实表单、绕过限制获取付费数据,以及用短网址规避抓取工具限制。
Anthropic 表示,相关事件现实影响有限,未涉及客户数据或其内部系统。公司将暂停内部评测的实时互联网访问,强化工具护栏、监测和训练,并继续调查和披露类似案例。
Anthropic
Post #1662
2
华人 华人日记 @kmshare · 26 subscribers