TGViewer
开发者工具箱|编程·开发工具·资源 开发者工具箱|编程·开发工具·资源 @devtoolboxhub · 435 subscribers
Post #1023 1
40行脚本让 LLM Judge 费用骤降

空一行

LLM-as-Judge 的评估成本可能超过 Agent 本身。作者发布 40 行离线脚本 judge_gate.py,用 4 条确定规则对每个 agent span 分诊,只有不确定的 span 才送入昂贵的 judge。

- 4 条规则:声明-证据匹配、输出格式、200 空响应、重复重试
- 输入 JSONL trace,输出 OK/BAD/UNCERTAIN;仅 UNCERTAIN 触发 judge
- 支持 --judge-price 和 --prod-cost 配置价格,退出码用于 CI 门控
- 测试结果:良好打点的 trace 中 68% 被分流,judge 成本占比从 50% 降至 16%

空一行
原文链接

空一行
#开发者 #工具

空一行
📢 频道:@DevToolboxHub
More from @devtoolboxhub
  1. Oct 6, 2026SpecKit Companion:让 VS Code 变成 Spec‑Driven 开发 IDE SpecKit Companion 是一款 VS Code 扩展,提供可视化的…
  2. Oct 6, 2026MCP 无状态化后,网关要改什么 MCP 规范在 7 月 28 日转向无状态。只跑一个 MCP 服务器,改动主要是删掉会话处理、加上 server/discover 方法;但跑网关…
  3. Oct 6, 2026开源新手选 issue 前先做一次分诊 Worth My Time 是一个面向开源新手的 issue 分诊工具,用来判断一个「good first issue」到底值不值得花一个晚…
  4. Oct 5, 2026企业应用漏洞修复框架:按 SLA 分级治理 企业应用通过云平台、API、AI 服务和第三方集成不断互联,安全漏洞带来的运营与业务风险随之放大。未修复的漏洞可能导致数据泄露、服务中断…
  5. Oct 5, 2026为易忘大脑设计的规划工具 这是一篇开发者社区文章,作者讲述自己反复买纸质手账、反复弃用的经历,并据此重新设计了一款规划工具。核心观点是:传统手账假设使用者能记住并主动查看,而 AD…
  6. Oct 5, 2026大型 OpenAPI 规范的多文件拆分与 CI 校验 OpenAPI 文档起步时都是干净的单文件,但到四十个操作就变成 2000 行,到上百个操作后每个 PR 都在合并时冲突,没人…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →