开源LLM防火墙：保护AI应用免于注入攻击

📘 教程 2026-08-06 约 4 分钟阅读

开源LLM防火墙站在用户和LLM之间，过滤提示词和输出。我们对比 llm-guard、NeMo Guardrails 和 superagent。

💡 你将学到

开源LLM防火墙站在用户和LLM之间，过滤提示词和输出。我们对比 llm-guard、NeMo Guardrails 和 superagent。

📜 目录

选手阵容
对比
常见问题

如果你让原始用户输入直达 LLM，它会乐于泄露系统提示词、泄漏数据或执行注入指令。开源LLM防火墙加了一层过滤：净化输入、检测注入、脱敏输出——在每次模型调用的前后。

选手阵容

llm-guard（protectai/llm-guard，3,202 星）是专注注入检测、PII 脱敏和输出净化的安全工具包——拦截或标记请求。NVIDIA NeMo Guardrails（6,880 星）是更大的框架：rails 是可编程规则，按你的策略检查输入输出，带对话流控制。superagent（6,700 星）用轻量 API 保护 AI 应用免于提示词注入。

部署模式：防火墙放在 LLM 网关（如 LiteLLM）前面，记录每个被拦截的请求，从保守规则开始——先拦明显的注入模式再调优。误报是主要成本，用合法流量样本测量。