AI Agent Compliance Audit：构建可靠AI Agent的必备实践
监管问一句「你们的 Agent 做决定时依据了什么」，团队翻不出记录。合规审计不是年底补一堆文档，而是日常把「谁、在什么时候、基于什么数据、让 Agent 做了什么」记下来。这篇给出一份审计日志字段表、脱敏规则和季度自查清单。
💡 你将学到
监管问一句「你们的 Agent 做决定时依据了什么」，团队翻不出记录。合规审计不是年底补一堆文档，而是日常把「谁、在什么时候、基于什么数据、让 Agent 做了什么」记下来。这篇给出一份审计日志字段表、脱敏规则和季度自查清单。
AI Agent Compliance Audit：构建可靠AI Agent的必备实践
监管问一句"你们的 Agent 做决定时依据了什么"，团队翻不出记录。合规审计不是年底补一堆文档，而是日常把"谁、在什么时候、基于什么数据、让 Agent 做了什么"记下来。这篇给出一份审计日志字段表、脱敏规则和季度自查清单。
一、审计要能回答的四个问题
- 数据从哪来、到哪去：输入来自谁，检索命中哪些文档，内容有没有出境或交给第三方模型
- Agent 做了什么决定：它调用了哪些工具、参数是什么、结果如何
- 谁批准的：自动化执行还是人工确认，确认人是谁、判断依据是什么
- 能不能复盘：给定一个时间点或一个用户，能否重建当时的完整链路
四个问题里任何一个答不上来，审计就是没做完。多数团队的漏洞在第三条：流程里有"人工确认"，但日志里没有确认人和确认时间，等于这个环节不可证明。
二、审计日志该记什么
| 字段 | 说明 | 注意 |
|---|---|---|
| 时间戳 | 统一时区，精确到毫秒 | 分布式系统要记服务侧时间 |
| 用户标识 | 内部 ID，不存明文姓名 | 与用户表映射关系单独受控 |
| 输入摘要 | 长度、哈希、必要时加密原文 | 原文默认不落盘 |
| 检索依据 | 文档 ID 与版本、相似度分数 | 文档更新后版本号必须能追溯 |
| 工具调用 | 工具名、参数、返回状态 | 参数里可能含个人信息，需脱敏 |
| 模型与版本 | 模型名、版本号、系统提示哈希 | 换版本后行为变化可解释 |
| 输出摘要 | 哈希与分类，必要时留存 | 同输入摘要 |
| 人工干预 | 是否确认、确认人、确认时间 | 最容易漏的一条 |
| 用量与成本 | token 数、费用 | 审计与成本核算共用一份数据 |
日志本身也是敏感数据。留存期限、访问权限、加密方式要写进内部规范，别让审计日志变成新的泄露面。
三、脱敏的三种做法
- 掩码：手机号、邮箱只保留首尾，便于人工核对又不暴露全量
- 哈希：用作关联键（同一个人前后能对上），不可逆，适合日志去重与统计
- 分离存储：原文加密放受控存储，日志里只留哈希与指针，需要时按权限调取
实践中常见错误是把"脱敏"做成了"换个字段名"，值还是明文。审计时随机抽几条日志，看看里面的内容是不是真的取不出来，是最快的自查方式。
四、法规坐标（条款以官方文本为准）
不同法域要求不同，工程上通常需要同时面对几套：
- 欧盟：AI 法案对高风险系统提出文档、日志与人工监督义务；数据保护法对个人数据的处理、告知与删除请求有明确流程要求
- 中国：生成式人工智能服务管理与深度合成相关规定，涉及备案、内容标识、用户告知等要求
- 行业规则：金融、医疗等领域另有更细的记录与留痕要求
这里只做工程视角的梳理，具体条款、适用范围和罚则以官方发布文本为准；真要落地请让法务确认，本文不构成法律意见。
五、季度自查清单
- 能否按用户导出这个人的全部相关记录
- 能否按时间点重建某一次 Agent 决策的完整链路
- 人工确认环节是否有确认人与时间戳
- 日志中是否残留明文个人信息（抽样验证）
- 模型与系统提示是否记录版本，能否解释行为变化
- 数据流向清单是否更新，含第三方模型与外部工具
- 日志保留期限与访问权限是否符合内部规范
- 用户告知与删除请求的处理时延是否达标
- 上次审计发现的问题是否全部闭环
- 新接入的工具是否纳入审计范围
六、工具
追踪类平台（如 Langfuse 一类）能自动记录每次调用的输入输出、模型版本与耗时，是落地的起点；OpenTelemetry 这类的标准埋点能把 Agent 链路和既有的可观测体系接起来。工具解决"记下来"，制度解决"谁来查、查到什么程度"。
七、常见问题
Q：全量记录会不会成本太高？ A：会。常见折中是记全摘要与元数据、原文加密抽样留存，同时保证关键决策链路完整。
Q：用户要求删除数据怎么办？ A：需要先分清两类：法定必须留存的审计痕迹（可能以哈希形式保留）与业务侧个人数据。删除流程要有工单和回执，别口头处理。
Q：自建本地模型就不用管了吗？ A：管得更少，但不是不管。本地部署减少数据出境风险，日志、留痕、告知义务照样存在。
Q：多久做一次？ A：季度自查加事件触发，出了越权调用或数据泄露事件后立即做一次专项。
注：本文是工程实践梳理，不构成法律意见；具体合规义务请以官方文本和法务意见为准。
相关文章
本站文章由编辑人工撰写，收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库，仅作信息参考，不构成付费推广。
