统一 LLM API 网关 2026:LiteLLM、one-api、new-api 对比

📘 教程 2026-08-14 约 5 分钟阅读

三个开源网关主导:西方用 LiteLLM,中文生态用 one-api 和 new-api。这是怎么选。

💡 你将学到

三个开源网关主导:西方用 LiteLLM,中文生态用 one-api 和 new-api。这是怎么选。

📜 目录

网关格局

统一 LLM 网关给你一个 API key、一个端点接所有模型供应商——外加路由、预算和日志。2026 年三个开源项目主导,选择更多取决于生态(谁维护、谁在用、文档在哪)而不是功能(它们高度重叠)。

三个

LiteLLM(56,266 stars,2026-08-14):事实上的国际标准:Python 代理,一个 OpenAI 兼容端点后面暴露 100+ 供应商(OpenAI、Anthropic、Gemini、Azure、Ollama、vLLM、DeepSeek)。社区巨大、企业采用广、配置是一个 YAML 文件。团队用英语工作、需要最广供应商覆盖时最佳。

one-api(36,372 stars):中文生态最爱:多供应商代理,干净 admin UI 给用户分发 token、用量配额、按渠道管理。适合想给非技术成员 API 访问又不想共享主 key 的团队。

new-api(45,082 stars):one-api 的分支青出于蓝:供应商更多(含国产中文模型和图像/视频模型)、仪表盘更好、支持转售计费、开发活跃。中文市场创业公司的社区之选。

决策表

标准 LiteLLM one-api new-api
Stars 56,266 36,372 45,082
供应商覆盖 100+(全球) 多(偏中文) 最多(中文+全球)
Admin UI 极简 好 最好
计费/转售 无 基础 有
最适合 全球生产 中文团队 中文创业/转售

15 分钟配置(任意一个)

  1. Docker 部署(三个都有镜像)
  2. 管理面板加供应商 key
  3. 建带配额的用户 token/key
  4. 应用指向网关的 OpenAI 兼容端点
  5. 看日志:每个渠道的 token、成本、错误

FAQ

能同时用两个网关吗? 能——有些团队内部工程用 LiteLLM,对外分发 key 用 new-api。

支持本地模型吗? 支持——三个都能在云供应商旁边代理 Ollama/vLLM 端点。

哪个仪表盘最好? new-api——它作为分支就是为了改进 UI 和计费而生。

一个人开发值得用网关吗? 边际——价值在 3+ 用户或多供应商时出现;单人先用直连 API。

相关文章

❓ 常见问题

Can I use two gateways at once?

Yes - some teams run LiteLLM internally for engineering and new-api for user-facing key distribution.

Do they support local models?

Yes - all three can proxy Ollama/vLLM endpoints alongside cloud providers.

Which has the best dashboard?

new-api - it was built as a fork specifically to improve the UI and billing.

Is a gateway worth it for one developer?

Marginal - the value appears at 3+ users or multi-provider setups; solo devs can start with direct APIs.

相关文章
2026-07-22
2026年QLoRA微调指南
2026-08-06
Awesome MCP Servers(9.2万星)2026:1000+个MCP服务器的权威精选清单
2026-08-05
2026年本地大模型完整指南:在自己硬件上跑私有AI——Ollama(17.8万星)、Open WebUI与LocalAI
2026-08-01
TutorialsPoint计算机视觉教程:评测与替代
2026-08-01
SQLite向量搜索:最轻量的RAG方案
2026-08-07
Teams会议AI纪要:自动记录每一通电话

本站文章由编辑人工撰写,收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库,仅作信息参考,不构成付费推广。

💬 评论 (0)

暂无评论,来说两句吧~

登录后评论