AI Agent重试机制:API挂了,别直接告诉用户

📘 教程 2026-07-16 约 1 分钟阅读

API调用一定会失败。不是会不会的问题,是什么时候的问题。好的重试机制让Agent悄无声息地自己修复。

💡 你将学到

API调用一定会失败。不是会不会的问题,是什么时候的问题。好的重试机制让Agent悄无声息地自己修复。

📜 目录

第一版Agent上线第一天,OpenAI限流了——Agent直接给用户回了句"出错啦"。用户跑了。

从那以后所有API调用都加了重试机制。

三种重试策略

1. 立即重试 适合:网络抖动、临时超时

for i in range(3):
    try:
        return call_api()
    except Exception:
        if i == 2: raise  # 最后一次还失败就认输

2. 指数退避 适合:速率限制(429)

import time
for i in range(3):
    try:
        return call_api()
    except RateLimitError:
        time.sleep(2 ** i)  # 1, 2, 4秒

3. 备用API 适合:主API挂了

apis = ["gpt-4o", "claude-3", "deepseek"]
for api in apis:
    try:
        return call_model(api, prompt)
    except Exception:
        continue

总结

重试机制的三条原则:瞬时错误马上重试,限流错误等一会儿再试,全挂了切备用。 最重要的是——不要让用户看到你的错误。

相关文章

相关文章
2026-07-16
AI Agent工具描述优化:写得好,Agent一次选中正确工具
2026-08-01
电池健康机器学习管道:完整指南
2026-07-17
AI Agent Input Sanitization:构建可靠AI Agent的必备实践

本站文章由编辑人工撰写,收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库,仅作信息参考,不构成付费推广。

💬 评论 (0)

暂无评论,来说两句吧~

登录后评论