AMS激活空间安全扫描实测

Google Cloud 开源的 AMS 工具通过测量模型激活空间的几何分离度来评估安全训练效果。
- 支持 harmful_content、injection_resistance、refusal_capability、truthfulness 四个维度的 σ 分数测量。
- 快速模式下 10–40 秒完成单模型扫描，可接入 GitHub Actions 做 CI 安全门禁。
- 提供 baseline 创建与 --verify 模式，用于供应链完整性检测防止权重被篡改。

原文链接
GitHub

#开发者 #工具

📢 频道：@DevToolboxHub