AI Agent分布式追踪：跨服务请求链路一目了然

追踪的价值

Agent一个请求可能涉及LLM调用、向量检索、数据库查询、第三方API。每个环节都可能慢。没有追踪，你只知道整体慢了，不知道哪里慢。

实现

import uuid, time, json

class Tracer:
    def __init__(self):
        self.trace_id = str(uuid.uuid4())
        self.spans = []

    def span(self, name):
        span = Span(name, self.trace_id)
        self.spans.append(span)
        return span

class Span:
    def __init__(self, name, trace_id):
        self.name = name
        self.trace_id = trace_id
        self.start = time.time()

    def end(self):
        self.duration = time.time() - self.start

能看到什么

LLM调用占了60%——优化LLM比优化其他环节更有效。

总结

不加追踪，你就在盲人摸象。加了追踪，一眼看出瓶颈在哪。