本地AI API代理搭建指南：统一管理多个API Key和请求

📘 AI教程 💬 🔥 Trending

🩺 摘要

同时用OpenAI、Claude、DeepSeek多个API，管理API Key和切换模型很麻烦。这篇教你搭一个统一API代理。

📝 详情

为什么需要API代理？

同时用多个AI API的开发者，面临的三个问题： 1. API Key散落在各个配置文件里 2. 切换模型要改代码 3. 费用统计靠手动记账

API代理解决这三个问题：统一入口、自动路由、费用统计。

用OpenAI-Compatible Proxy

最流行的方案是用一个兼容OpenAI格式的代理服务器。你的代码始终调同一个URL，代理帮你路由到不同的后端。

# 你的代码不需要改
client = OpenAI(
    api_key="your-key",
    base_url="http://localhost:8080/v1"  # 指向本地代理
)

推荐方案：LiteLLM Proxy

LiteLLM是目前最成熟的API代理方案。

# 安装
pip install litellm[proxy]

# 启动
litellm --model gpt-4 --api_key sk-your-key

配置示例

model_list:
  - model_name: gpt-4
    litellm_params:
      model: openai/gpt-4
      api_key: sk-xxx
  - model_name: claude-3
    litellm_params:
      model: anthropic/claude-3-sonnet
      api_key: sk-ant-xxx
  - model_name: deepseek
    litellm_params:
      model: openai/deepseek-chat
      api_key: sk-deepseek-xxx

优势

  • 统一计费：所有模型的调用记录在一个地方
  • 速率限制：防止某个API调用超限
  • 自动切换：API挂了自动切换到备用
  • 缓存：相同请求自动缓存

总结

API代理不是必需品，但如果你同时用2个以上的AI API，LiteLLM能省下大量管理时间。