AI Agent成本追踪:每个请求花了多少钱一目了然
🩺 摘要
月底收到API账单傻眼了——怎么花了这么多?成本追踪让每笔费用都可以追溯。
📝 详情
不看不知道,一看吓一跳
第一个月用GPT-4o的时候,月底账单$3400。完全不知道钱花在了哪里。
成本追踪实现
每次API调用都记录:
def track_cost(model, input_tokens, output_tokens, user_id):
cost = calculate_cost(model, input_tokens, output_tokens)
record = {
'timestamp': datetime.utcnow().isoformat(),
'model': model,
'user': user_id,
'input_tokens': input_tokens,
'output_tokens': output_tokens,
'cost': cost
}
db.insert(record)
能分析什么
| 维度 | 能发现的问题 |
|---|---|
| 按用户 | 哪个用户消耗最大 |
| 按模型 | 哪个模型最贵 |
| 按时段 | 什么时间段用量最大 |
| 按功能 | 哪个Agent功能最费钱 |
总结
不加成本追踪,你根本不知道钱花哪了。每笔调用记录一下,月底对账一目了然。
💬 评论 (0)