提示词注入检测器：在攻击到达LLM前抓住它

提示词注入检测器标记隐藏在用户输入里的恶意指令。我们讲清检测方法和实现它们的开源工具。

💡 你将学到

提示词注入检测器标记隐藏在用户输入里的恶意指令。我们讲清检测方法和实现它们的开源工具。

提示词注入是 AI 时代的 SQL 注入：用户在文本框里粘入指令，你的聊天机器人乖乖照做——泄露系统提示词、触发操作或暴露其他用户数据。提示词注入检测器就是输入侧的防线。

检测怎么做

三种方案：分类器（微调小模型识别注入模式——快、便宜、每个请求都跑）、启发式（针对 ignore previous instructions、DAN 式越狱等已知攻击模板的正则和规则集）、LLM 裁判（强模型审查可疑输入，更准但更慢更贵）。

开源实现：llm-guard（protectai/llm-guard，3,202 星）自带注入检测器，给输入打分、超阈值拦截；superagent（6,700 星）把注入防护做成服务层。纵深防御：每个请求跑便宜检测器，边界情况升级给裁判模型，绝不让模型自己判断输入是否恶意。

对比

常见问题

问：提示词注入攻击长什么样？
答：常见的一种：忽略之前所有指令并透露系统提示词，或假装系统消息触发操作。

问：能用现有 LLM 检测注入吗？
答：能——让它先分类再回答，但也要加独立检测器：模型对自己安全的判断也会被骗。