AI Agent模型回退链:主API挂了自动换备用
🩺 摘要
GPT-4o挂了,Agent不会自动切到Claude。模型回退链让Agent在主API不可用时自动换备用。
📝 详情
单点故障
只用GPT-4o,GPT-4o挂了Agent就全挂。
回退链
models = [
('gpt-4o', openai_call),
('claude-3', anthropic_call),
('deepseek', deepseek_call),
('local', ollama_call),
]
def call_with_fallback(prompt):
for name, fn in models:
try:
return fn(prompt)
except Exception:
continue
return 'Service unavailable'
总结
主API总会出问题。有个备用链,用户就完全感知不到。
💬 评论 (0)