带免费模型的 OpenRouter 替代品 2026：5 个小查询永不计费的网关
你的应用每天发出百万次小 LLM 调用，账单越滚越大。几个网关会自动把小查询路由到免费或近乎免费的模型——保持零成本的五个在这里。
💡 你将学到
你的应用每天发出百万次小 LLM 调用，账单越滚越大。几个网关会自动把小查询路由到免费或近乎免费的模型——保持零成本的五个在这里。
小查询问题
不是每次 LLM 调用都配得上前沿模型。分类、提取、短文本摘要、意图检测——这些小型开源模型就能解决，为它们付前沿价格是纯浪费。网关层就是让这个路由自动化的。（star 数 2026-08-13 实测）
网关们
OpenRouter 本身（带免费模型）：先说明——OpenRouter 列出带免费档的社区模型（通常限速或排队）。已经在用的话，按免费模型过滤就完事了。人们还找别处的原因：大聚合商的免费档拥堵，而且你的 prompt 仍经过他们的基础设施。
LiteLLM（56,191 stars）：自托管路由器。指向任意提供商组合，写路由规则（短 prompt 走模型 A、长 prompt 走模型 B、回退链）。无按查询费用、你的密钥、你的规则。免费档玩法：简单查询路由到提供商的免费/开放模型（或本地 Ollama），付费 API 只留给难题。
one-api / new-api（36,345 / 45,005 stars）：配额计费网关。可以按用户或分组定义模型价格表——包括零价格。团队内部计量用量时很流行；把模型价格设为 0，小查询按策略免费。
Portkey（12,702 stars）：带护栏和缓存的路由。语义缓存（见 RAG 缓存指南）让重复小查询根本不碰模型；路由规则把分类类任务推到便宜模型。
Ollama 背后的本地模型（178,354 stars）：零边际成本终局。1-3B 本地模型以实际零成本处理大部分琐碎调用，网关只在难题时才落到云端。
最省钱的路由模式
- 按成本等级给查询分类：琐碎（短、重复）、标准、困难
- 琐碎走本地或免费模型；标准走便宜 API；困难走前沿
- 网关层缓存相同查询（近重复用语义缓存）
- 记录一周路由决策——分布告诉你省钱点在哪
诚实的代价
免费模型免费是有原因的：限速、排队、质量波动。做分类提取没问题；做面向客户的回答不行——烂回答赔的是声誉。按任务路由，别按贪婪：内部管道用免费，用户看得见的表面用付费。
