该工具是一个无状态的命令行脚本,专门用于在多家 LLM 提供商之间快速切换,避免因单一服务限流导致的整体延迟。
它读取 JSON 配置,按优先级顺序请求各提供商,单次请求超时 0.8 秒,总执行时间不超过 5 秒。若某提供商返回 429 或 5xx,脚本立即跳过,继续尝试下一个。
脚本仅依赖 Python 标准库,无需额外依赖,适合 CI/CD、Cron 或轻量级无服务器环境调用。
使用时只需准备
config.json(包含提示、超时和各提供商信息),设置对应 API Key 环境变量,然后执行脚本即可得到 JSON 格式的成功/失败日志和最终响应预览。
