用 LangChain 搭 AI PDF 聊天机器人 2026:30 分钟搞定
不要 Docker、不要重型框架——这是一个 30 分钟能搭好、还能扩展成真正产品的极简 LangChain PDF 聊天机器人。
💡 你将学到
不要 Docker、不要重型框架——这是一个 30 分钟能搭好、还能扩展成真正产品的极简 LangChain PDF 聊天机器人。
极简 RAG 模式
PDF 聊天机器人是四步 RAG 管道:加载、切分、向量化、检索回答。LangChain(144,172 stars,2026-08-14)把每步都做成组件;整个机器人约 60 行。
技术栈
- Python 3.10+
- langchain + langchain-community + langchain-chroma
- pypdf(PDF 解析)
- 向量库:Chroma(本地、免费、零配置)
- LLM:任意 OpenAI 兼容端点——OpenAI、DeepSeek 或本地 Ollama
核心代码
(见英文版代码块)
每部分的理由
- 块大小 1000 / 重叠 200:答案需要上下文;重叠防止把段落切成两半
- k=4 检索:多数答案四个块足够,又不会撑爆提示词
- temperature=0:事实问答应该确定性
- 提示词约束:“只用上下文,不确定就说”——阻止幻觉伪装成答案
30 分钟路径
- pip install langchain langchain-community langchain-chroma pypdf langchain-openai(5 分钟)
- 保存脚本,让 PyPDFLoader 指向你的 PDF(2 分钟)
- 运行、提问(玩 10 分钟)
- 用 FastAPI(102,000 stars)包起来加个小聊天 UI(剩余时间)
FAQ
为什么用 LangChain 而不裸写? 组件处理麻烦的部分(切分、检索、提示词组装);裸写是教学,LangChain 是生产力。
用哪个嵌入模型? text-embedding-3-small 便宜够用;本地用户可用 Ollama 嵌入。
支持扫描版 PDF 吗? 不支持——PyPDFLoader 需要文本;扫描件加 OCR(pytesseract)。
准确度如何? 取决于切块质量和 LLM;k=4 检索加来源引用是准确度的杠杆。
相关文章
2026-07-16
本地AI API代理搭建指南:统一管理多个API Key和请求
2026-08-01
用本地LLM跑AI编程智能体
2026-07-17
AI Agent性能基准测试:你的Agent到底有多快
