2026年本地AI文档对话：AnythingLLM（6.4万星）对比 Khoj 与 PrivateGPT，离线与PDF聊天
AnythingLLM（64,364星）、Khoj（36,218星）和PrivateGPT（57,407星）让你在本地与PDF、笔记和代码对话——文档永远不出你的电脑。
💡 你将学到
AnythingLLM（64,364星）、Khoj（36,218星）和PrivateGPT（57,407星）让你在本地与PDF、笔记和代码对话——文档永远不出你的电脑。
直接给结论
AnythingLLM（64,364星，MIT）是最简单的一体化方案：桌面应用、Web界面、兼容Ollama/OpenAI/任何模型，还内置文档工作区。Khoj（36,218星，AGPL-3.0）是"第二大脑"——索引你的笔记、PDF甚至日历，并从中回答。PrivateGPT（57,407星，Apache-2.0）是开发者选项：本地模型RAG的API层，完全可控。
最快上手 - AnythingLLM桌面版
- 从GitHub releases下载桌面应用（Windows/macOS/Linux）。
- 启动Ollama（177,825星）并拉取模型：
ollama pull llama3.1:8b - 在AnythingLLM设置里选择Ollama作为模型提供方并选中模型。
- 创建工作区、上传PDF、开始聊天——它自动建好向量索引。
三者对比
| 工具 | 星数 | 最适合 | 部署 |
|---|---|---|---|
| AnythingLLM | 64,364 | 非开发者、快速上手 | 10分钟 |
| Khoj | 36,218 | 个人知识库 | 20分钟 |
| PrivateGPT | 57,407 | 开发者、定制RAG API | 40分钟 |
真实数据
- AnythingLLM默认本地嵌入文档（免费、私密），支持10多种向量数据库。
- Khoj同步Obsidian、Notion、Google Docs等，手机也能聊。
- 16GB内存Mac跑8B模型约20-40 token/秒——文档问答绰绰有余。
FAQ
Q：需要显卡吗？ A：不需要——8B模型CPU也能跑（慢一些），Apple Silicon更好。笔记本弱就用3-4B模型。
Q：用哪个向量数据库？ A：AnythingLLM内置的LanceDB开箱即用；语料大用Qdrant/Chroma。
Q：能用云端模型吗？ A：能——三者都支持OpenAI/Anthropic API，但那样文档会发给API。
相关文章
❓ 常见问题
Do I need a GPU?
No - an 8B model runs fine on CPU (slower) or Apple Silicon. Use a 3-4B model for weak laptops.
Which vector database?
AnythingLLM's built-in LanceDB works out of the box; use Qdrant/Chroma for larger corpora.
Can I use cloud models instead?
Yes - all three support OpenAI/Anthropic APIs if you prefer cloud, but then documents are sent to the API.
本站文章由编辑人工撰写，收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库，仅作信息参考，不构成付费推广。
