经典APM盯服务器，Agent的失败方式完全不同：死循环、幻觉式工具调用、一次会话烧掉十几美元。2026年监控Agent意味着追踪、会话成本、循环检测和质量信号四件事。

📜 目录

• 一、Agent的失败方式和API不一样
• 二、必须埋的六个字段
• 三、四层看板
• 四、告警阈值怎么定
• 五、工具选型
• 六、一晚上接上追踪
• 七、一份可以直接抄的告警清单
• 八、四周落地路线
• 九、常见问题
• 相关文章

AI Agent监控2026：生产环境Agent的追踪、Token成本与故障检测

经典APM盯服务器，Agent的失败方式完全不同：死循环、幻觉式工具调用、一次会话烧掉十几美元。服务全绿，用户却在骂，这是没监控对东西的典型症状。

一、Agent的失败方式和API不一样

这五类都需要会话级追踪才能发现，指标级看板天生看不见。

二、必须埋的六个字段

顺手再加一个业务字段：这次会话有没有解决问题。没有它，所有技术指标都在自说自话。

三、四层看板

1. 会话层：成功率、平均轮数、P95时长、每次会话成本分布（看长尾，不看均值）。
2. 工具层：每个工具的调用量、失败率、超时率、平均返回大小。
3. 成本层：按会话、按用户、按任务类型拆的token消耗，找出"少数调用吃掉大部分预算"。
4. 质量层：抽样打分、用户反馈、转人工率。转人工率突然下降不一定是好事，可能是Agent在做更冒险的自主决策。

四、告警阈值怎么定

别拍脑袋。流程是：

1. 先跑两周只观察不告警，收集分布。
2. 用P95或P99做基线，比如单会话token超过P99的1.5倍就告警。
3. 对"绝对不能发生"的事件设绝对阈值：连续相同工具调用超过5次、单会话成本超过预算、连续3次工具失败。
4. 每月复盘误报率，误报多的规则直接删，不调整阈值硬撑。

五、工具选型

先接一个能看追踪的工具，再谈评估。没有追踪的评估是盲评。

六、一晚上接上追踪

以 Langfuse 为例，自托管或云版都可以，核心是三行：

from langfuse import Langfuse
lf = Langfuse(public_key=..., secret_key=..., host=...)

trace = lf.trace(name="agent-run", session_id=session_id)
span = trace.span(name="tool:search", input=query)
span.end(output=result, metadata={"tokens": n})

要点是每个工具调用都开span，别只在最外层记一次。树的形状比日志文本有用得多。

七、一份可以直接抄的告警清单

七条里前四条当天就能上，后三条需要两周基线。别一上来配二十条告警，报警疲劳比没告警更糟。

八、四周落地路线

四周之后，才算真正"看着"Agent在跑。多数团队卡在第1周，因为没有追踪，后面所有分析都无从下手。

九、常见问题

Q：日志够不够，非要追踪？ A：日志能告诉你发生了什么，追踪能告诉你发生在哪条链路的哪一步。Agent一次会话几十个步骤，纯日志基本无法定位。

Q：采样会不会漏掉关键故障？ A：正常流量可以采样，错误和超预算的会话必须100%保留。

Q：怎么防成本爆炸？ A：监控就是控制。设单会话预算、单用户日预算，超限强制人工检查点，这比事后看账单有用。

Q：小团队值得做吗？ A：先做最低配：会话ID、token计数、工具失败率、单会话成本告警。四项做完，已经能挡住大部分事故。

注：各工具的功能与计费以官方文档为准；阈值请基于自身流量基线设定。

相关文章

• 统一 LLM API 网关 2026：LiteLLM、one-api、new-api 对比
• LLMWare（1.5万星）2026：面向RAG工作流与文档智能的企业级LLM平台
• LLM API 网关 2026：一个端点统管所有模型