AI Agent超时处理:工具调用太久就跳过
一个工具卡住了5秒,Agent还在傻等。超时处理让Agent在合理时间内放弃等待,不耽误后续任务。
💡 你将学到
一个工具卡住了5秒,Agent还在傻等。超时处理让Agent在合理时间内放弃等待,不耽误后续任务。
卡住的问题
第三方API有时候就是慢。Agent等着等着,用户已经走了。超时处理让Agent不等了,走下一步。
实现
import asyncio
async def call_with_timeout(fn, timeout=10):
try:
result = await asyncio.wait_for(fn(), timeout=timeout)
return result
except asyncio.TimeoutError:
return {'error': 'timeout', 'message': f'工具调用超过{timeout}秒'}
超时后的策略
- 重试一次(可能只是网络抖动)
- 切备用工具(如果有的话)
- 跳过这个工具,用已有结果继续
- 告知用户部分结果可用
建议的超时时间
| 工具类型 | 超时时间 |
|---|---|
| LLM调用 | 30秒 |
| 搜索API | 10秒 |
| 数据库查询 | 5秒 |
| 文件操作 | 3秒 |
总结
不给工具调用设超时时间,等于让Agent无限制等下去。每个工具设合理的超时,超了就走下一步。
相关文章
相关文章
2026-07-16
AI Agent结构化输出:让Agent说人话不如让它说JSON
2026-07-23
LLM微调完全指南:从LoRA到全量微调(2026版)
2026-07-19
DeepSeek V4 vs Qwen 2.5:2026年两大开源模型深度对比
本站文章由编辑人工撰写,收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库,仅作信息参考,不构成付费推广。
