AI幻觉解决方案：让模型不乱编答案

AI幻觉缓解方案

1. RAG（最有效）

给AI提供真实文档作为参考，从根本上减少编造空间：

from langchain_community.vectorstores import Chroma
from langchain_community.embeddings import HuggingFaceEmbeddings

vectorstore = Chroma(
    embedding_function=HuggingFaceEmbeddings(
        model_name="BAAI/bge-small-zh-v1.5"
    )
)

def rag_query(question):
    """检索增强查询 - 减少幻觉的核心模式"""
    relevant = vectorstore.similarity_search(question, k=3)
    prompt = f"""请仅基于以下文档回答问题。
如果文档中没有相关信息，直接说"文档中没有相关信息"。
不要编造任何内容。

文档：
{chr(10).join([d.page_content for d in relevant])}

问题：{question}
回答："""
    return prompt

效果数据：有RAG时幻觉率从约30%降至约5%（基于TruthfulQA基准）。

2. 温度调低 + 参数控制

response = client.chat.completions.create(
    model="gpt-4o",
    temperature=0.1,   # 接近确定性的输出
    top_p=0.9,
    frequency_penalty=0
)

3. 系统Prompt约束 + 验证链

SYSTEM_PROMPT = """规则：
1. 如果你不确定答案，直接说"我不知道"，不要编造
2. 不要猜测具体数据、日期、人名
3. 如果要提供数据，必须标注来源"""

各场景风险与建议

RAG是缓解幻觉最有效的手段，没有之一。 所有方案中最先上RAG。