AI Agent请求去重:同一个问题别处理两次

📘 教程 2026-07-17 约 1 分钟阅读

用户手抖点了两次提交。Agent收到了两个同样的请求,处理了两次——浪费双倍时间和钱。

💡 你将学到

用户手抖点了两次提交。Agent收到了两个同样的请求,处理了两次——浪费双倍时间和钱。

📜 目录

一个真实场景

网络延迟,用户以为没点上,又点了一次。Agent收到了两个完全一样的查询请求,各自独立处理了一遍,返回了两个一样的答案。

请求去重的实现

import hashlib, time

class Deduplicator:
    def __init__(self, ttl=300):
        self.cache = {}  # 实际用Redis
        self.ttl = ttl

    def is_duplicate(self, request_id, query):
        key = hashlib.md5(query.encode()).hexdigest()
        if key in self.cache:
            return True
        self.cache[key] = time.time() + self.ttl
        return False

去重时机

在请求进入队列之前做去重。同一个用户5秒内的相同请求直接丢弃。

效果

去重后重复请求减少15-25%。不算多,但这是白捡的节省。

总结

请求去重防的是意外,不是常态。但意外发生时,它能省掉你双倍的费用。

相关文章

相关文章
2026-08-06
Earthly(1.2万星)构建框架2026:用熟悉的Dockerfile语法做可重复构建
2026-07-26
AI结对编程与氛围编码:关键差异
2026-08-01
AI智能体工具清单2026:30+工具分类整理

本站文章由编辑人工撰写,收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库,仅作信息参考,不构成付费推广。

💬 评论 (0)

暂无评论,来说两句吧~

登录后评论