稳定

Cordy Gateway

一个入口，接入所有模型

一个可自部署、兼容 OpenAI 的网关，在 100+ 提供商之前提供统一鉴权、计量与成本可控的单一入口——含智能路由、故障转移与完整的管理控制台。

为自建 AI 基础设施的团队而生

通过 LiteLLM 接入 OpenAI、Anthropic、Gemini、Bedrock、OpenRouter、vLLM 等，另有直连的兼容 OpenAI 快路径。

按请求选择加权、最便宜、最快或就近区域的路由策略，配合熔断与渠道冷却。

预付额度账本、按生效日期计价、按请求冻结成本快照，额度耗尽前先返回 402，绝不超支。

你的密钥、你的 Postgres、你的数据。默认不记录正文；支持离线许可的气隙部署。

继续用 OpenAI SDK——只需改基础 URL 与密钥。流式、工具调用与向量嵌入均无需改动。

Prometheus + Grafana 面板、审计日志、RBAC，并可在 nginx 后一键横向扩容。