统一 LLM API 网关 2026:LiteLLM、one-api、new-api 对比
三个开源网关主导:西方用 LiteLLM,中文生态用 one-api 和 new-api。这是怎么选。
💡 你将学到
三个开源网关主导:西方用 LiteLLM,中文生态用 one-api 和 new-api。这是怎么选。
📜 目录
网关格局
统一 LLM 网关给你一个 API key、一个端点接所有模型供应商——外加路由、预算和日志。2026 年三个开源项目主导,选择更多取决于生态(谁维护、谁在用、文档在哪)而不是功能(它们高度重叠)。
三个
LiteLLM(56,266 stars,2026-08-14):事实上的国际标准:Python 代理,一个 OpenAI 兼容端点后面暴露 100+ 供应商(OpenAI、Anthropic、Gemini、Azure、Ollama、vLLM、DeepSeek)。社区巨大、企业采用广、配置是一个 YAML 文件。团队用英语工作、需要最广供应商覆盖时最佳。
one-api(36,372 stars):中文生态最爱:多供应商代理,干净 admin UI 给用户分发 token、用量配额、按渠道管理。适合想给非技术成员 API 访问又不想共享主 key 的团队。
new-api(45,082 stars):one-api 的分支青出于蓝:供应商更多(含国产中文模型和图像/视频模型)、仪表盘更好、支持转售计费、开发活跃。中文市场创业公司的社区之选。
决策表
| 标准 | LiteLLM | one-api | new-api |
|---|---|---|---|
| Stars | 56,266 | 36,372 | 45,082 |
| 供应商覆盖 | 100+(全球) | 多(偏中文) | 最多(中文+全球) |
| Admin UI | 极简 | 好 | 最好 |
| 计费/转售 | 无 | 基础 | 有 |
| 最适合 | 全球生产 | 中文团队 | 中文创业/转售 |
15 分钟配置(任意一个)
- Docker 部署(三个都有镜像)
- 管理面板加供应商 key
- 建带配额的用户 token/key
- 应用指向网关的 OpenAI 兼容端点
- 看日志:每个渠道的 token、成本、错误
FAQ
能同时用两个网关吗? 能——有些团队内部工程用 LiteLLM,对外分发 key 用 new-api。
支持本地模型吗? 支持——三个都能在云供应商旁边代理 Ollama/vLLM 端点。
哪个仪表盘最好? new-api——它作为分支就是为了改进 UI 和计费而生。
一个人开发值得用网关吗? 边际——价值在 3+ 用户或多供应商时出现;单人先用直连 API。
