TGViewer
开发者工具箱|编程·开发工具·资源 开发者工具箱|编程·开发工具·资源 @devtoolboxhub · 780 subscribers
Post #1565 4
LLM 价格 API:为 AI Agent 而生

LLM Price Watch 最初只是解决一个麻烦:每次新模型发布,都要手动打开 Claude、GPT、Gemini、DeepSeek、Grok 五个定价页,逐项对比每 token 价格。作者先做了个计算器,又在后面加了 API,然后发现真正的调用方可能不是人。

第一版 API 是标准结构:GET /v1/models 返回全部追踪模型的当前定价,GET /v1/models/:id 查单个模型,GET /v1/calculate 按模型和输入输出 token 数算单次调用成本。人类开发者调用 /calculate 拿到数字,嵌进自己的成本看板,事情就结束了。

真正改变设计的是第四个端点:GET /v1/recommend?use_case=X。它不只返回价格,而是基于价格和站点对比页已有的编辑分析,给出某个用例(长文档摘要、高量分类、编码辅助、客服)该用哪个模型的推荐。这个端点出现后,API 的实际受众从「做成本看板的开发者」扩展到了「运行时自己做工具选择的 AI Agent」。

Agent 框架决定把任务路由到哪个模型时,不想读博客文章,它要的是结构化答案:给定这个用例,该用什么,成本多少。这是工具调用,不是页面浏览。这个重新定位带来几个具体决策:CORS 刻意全开,API 不设前端看板,允许从任何调用方代码直接访问,包括客户端 Agent 代码;暂时不需要 API key,Agent 想拿数据到拿到数据之间的每一点摩擦都是对实际用例的阻碍,等真实用量起来后再上带速率限制的付费层是自然路径,但第一天就设门槛会违背初衷;/recommend 返回推理过程而不只是模型名,Agent 或构建它的人需要知道为什么,否则推荐就是个没人敢接进决策的黑盒。

数据准确性是另一半关键。五个提供商的定价直接对照各家官方定价页核实,不采第三方聚合源——聚合源有滞后,对要指导真实支出决策的数据来说,过期定价比没有数据更糟。目前更新仍是手动快照,用量足够后下一步自然是加自动刷新 worker。作者没想到的是,这个 API 最终喂给了自己运营的另一个站点 StackIndex AI,其成本计算页实时调用此 API,内联返回模型推荐和成本估算。两个独立站点共用同一后端,跨域 CORS,端到端测试通过。


作者总结:设计响应时,要面向一个无法追问的读者。这个约束对 API 设计的帮助超过其他几乎所有因素。

#开发者 #工具 #LLM #API #AI #LLMPriceWatch #StackIndexAI
@DevToolboxHub
More from @devtoolboxhub
  1. Sep 26, 2026PostgreSQL 复制槽上限参数 max_replication_slots 解析 max_replication_slots 决定共享内存中复制槽数组的长度,仅此而已。它不决…
  2. Sep 26, 2026五仓库架构踩坑:Gitlink 与双 CI Flude 团队复盘了多仓库架构的实践代价。项目从第一分钟起就选择拆分成独立仓库,Pipeline、engine、design-docs…
  3. Sep 26, 2026Xeno Core:TypeScript 后端架构框架 Node.js 复杂系统的架构选型往往决定代码的长期命运。开发者常在两条路之间纠结:要么依赖重度使用实验性装饰器和反射(如…
  4. Sep 25, 2026用 SLO 给 AI Agent 的行为定个预算 Grafana Labs 提出把可靠性工程里的错误预算(error budget)思路用到 AI Agent 上。延迟、token…
  5. Sep 25, 2026Xcode 27.2 改用 JSON 项目格式 Xcode 27.2 用基于 JSON 的 project.xcproj 取代了沿用多年的 project.pbxproj。新建项目…
  6. Sep 25, 2026PostgreSQL 的 max_prepared_transactions 该不该开 prepared transaction 是脱离会话独立存在的两阶段提交事务。执行 PREP…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →