统一 LLM API 网关 2026:LiteLLM、one-api、new-api 对比

📘 教程 2026-08-14 约 5 分钟阅读

三个开源网关主导:西方用 LiteLLM,中文生态用 one-api 和 new-api。这是怎么选。

💡 你将学到

三个开源网关主导:西方用 LiteLLM,中文生态用 one-api 和 new-api。这是怎么选。

📜 目录

网关格局

统一 LLM 网关给你一个 API key、一个端点接所有模型供应商——外加路由、预算和日志。2026 年三个开源项目主导,选择更多取决于生态(谁维护、谁在用、文档在哪)而不是功能(它们高度重叠)。

三个

LiteLLM(56,266 stars,2026-08-14):事实上的国际标准:Python 代理,一个 OpenAI 兼容端点后面暴露 100+ 供应商(OpenAI、Anthropic、Gemini、Azure、Ollama、vLLM、DeepSeek)。社区巨大、企业采用广、配置是一个 YAML 文件。团队用英语工作、需要最广供应商覆盖时最佳。

one-api(36,372 stars):中文生态最爱:多供应商代理,干净 admin UI 给用户分发 token、用量配额、按渠道管理。适合想给非技术成员 API 访问又不想共享主 key 的团队。

new-api(45,082 stars):one-api 的分支青出于蓝:供应商更多(含国产中文模型和图像/视频模型)、仪表盘更好、支持转售计费、开发活跃。中文市场创业公司的社区之选。

决策表

标准 LiteLLM one-api new-api
Stars 56,266 36,372 45,082
供应商覆盖 100+(全球) 多(偏中文) 最多(中文+全球)
Admin UI 极简 最好
计费/转售 基础
最适合 全球生产 中文团队 中文创业/转售

15 分钟配置(任意一个)

  1. Docker 部署(三个都有镜像)
  2. 管理面板加供应商 key
  3. 建带配额的用户 token/key
  4. 应用指向网关的 OpenAI 兼容端点
  5. 看日志:每个渠道的 token、成本、错误

FAQ

能同时用两个网关吗? 能——有些团队内部工程用 LiteLLM,对外分发 key 用 new-api。

支持本地模型吗? 支持——三个都能在云供应商旁边代理 Ollama/vLLM 端点。

哪个仪表盘最好? new-api——它作为分支就是为了改进 UI 和计费而生。

一个人开发值得用网关吗? 边际——价值在 3+ 用户或多供应商时出现;单人先用直连 API。

相关文章
2026-07-23
2026年最佳AI代理监控软件工具:十大对比
2026-08-14
Civitai 上的 ComfyUI 工作流 2026:查找、下载、运行社区节点图
2026-08-11
LLM量化类型详解2026:Q4、Q5、Q8各档GGUF的代价

💬 评论 (0)

暂无评论,来说两句吧~

登录后评论