AI 网关助力降低编码成本
一天使用 AI 编码 Agent 产生 788 美元费用,主要来源于高成本模型的默认使用。
在 13 小时内进行了 11 次会话,共 3572 次 API 调用,涉及 Fable、Opus、Haiku、Sonnet 四种模型。
Fable 模型贡献约 617 美元(78% 费用),而 Haiku 仅 242 次调用花费 1.70 美元。
大量缓存读取(约 700M tokens)将费用从数千美元降至 788 美元;缓存失效会导致费用放大约 10 倍。
通过使用 AI 网关 / 模型路由,将廉价模型设为默认,仅在困难任务时切换到高成本模型,可将日费用降至十几美元。
github.com/cuihuan/awesome-ai-gateway
原文链接
#开发者 #工具
📢 频道:@DevToolboxHub
Post #921
3
