OpenRouter 替代品 2026:6 个开源 LLM 网关真实 Star 对比
OpenRouter 很方便,直到你想要掌控路由、成本或数据。这六个开源网关让你在自己的基础设施上获得同样的一个 API 体验。
💡 你将学到
OpenRouter 很方便,直到你想要掌控路由、成本或数据。这六个开源网关让你在自己的基础设施上获得同样的一个 API 体验。
📜 目录
团队为什么离开 OpenRouter
OpenRouter 的价值是几百个模型前面的一个 API。它的限制同样清楚:要付它的差价、prompt 经过它的服务器、没法做按团队预算或自定义路由。开源答案是 LLM 网关——自托管代理,一边说 OpenAI 的 API 语言,一边对接任何提供商。(star 数 2026-08-13 实测)
网关们
LiteLLM(56,191 stars):默认选择。一个 Python 库加代理,覆盖 100+ 提供商,统一格式:OpenAI 兼容、Anthropic 兼容、以及通过其提供商访问的几百个开源模型。带密钥管理、回退、重试和简单负载均衡。从 OpenRouter 到自托管最快的路。
one-api(36,345 stars):中文生态最爱。管理面板带用户/分组/token 计费、模型定价覆盖、配额限制——为内部转售或计量 API 访问的团队而生。
new-api(45,005 stars):one-api 的维护分支,更多提供商集成、更干净的面板。担心 one-api 维护节奏的选这个现代分支。
Portkey AI Gateway(12,702 stars):偏企业:护栏、缓存、可观测性、路由规则都内建在代理里。跑起来重,但能替换一整套中间件。
决策表
- 从 OpenRouter 最快迁移:LiteLLM
- 按用户配额和计费:one-api / new-api
- 护栏+缓存+路由一体:Portkey
- 多提供商回退:LiteLLM
一行迁移
用 LiteLLM,现有 OpenAI 代码不用动——只改 base_url 和 api_key:
python 示例:client = OpenAI(base_url="http://localhost:4000", api_key="your-key")。
2026 模式
典型自托管栈:LiteLLM 当混合提供商的代理(难任务走前沿 API,易任务走便宜开源模型);内部计费重要的地方用 one-api/new-api;应用需要护栏和缓存又不想加服务时用 Portkey。四个都开源——流量、密钥、成本数据都留在你的网络里。
