AI Agent性能基准测试：你的Agent到底有多快

📘 教程 2026-07-17 约 1 分钟阅读

感觉Agent变慢了，但慢了多少？没有基准测试没法量化。定期跑一次就知道是变好了还是变差了。

💡 你将学到

感觉Agent变慢了，但慢了多少？没有基准测试没法量化。定期跑一次就知道是变好了还是变差了。

📜 目录

用数据说话
测什么
工具
总结
相关文章

用数据说话

每次改代码后做个基准测试，对比前后性能变化。

测什么

平均响应时间
P95响应时间
最大响应时间
吞吐量（请求/秒）
成功率
Token消耗/请求

工具

import time, statistics

def benchmark(agent, test_cases, iterations=3):
    results = []
    for case in test_cases:
        times = []
        for _ in range(iterations):
            start = time.time()
            agent.run(case['query'])
            times.append(time.time() - start)
        results.append({
            'test': case['name'],
            'avg': statistics.mean(times),
            'p95': sorted(times)[int(len(times)*0.95)]
        })
    return results