AnythingLLM教程：一个界面接入所有AI模型

📘 AI教程 💬 🔥 Trending 发布者: leakey
AnythingLLM教程：一个界面接入所有AI模型

🩺 摘要

电脑上装了Ollama、OpenAI的Key、Claude的Key，每次想切换模型要打开不同的界面。能不能一个窗口管所有？AnythingLLM就是干这个的。

📝 详情

AnythingLLM：一个界面接入所有AI模型

安装部署

# Docker一键安装
docker pull mintplexlabs/anythingllm:latest

# 运行（持久化数据）
docker run -d -p 3001:3001 \
  --name anythingllm \
  -v $HOME/anythingllm/storage:/app/server/storage \
  -v $HOME/anythingllm/vector:/app/server/vector \
  mintplexlabs/anythingllm:latest

打开 http://localhost:3001，第一步设置LLM提供商：

# 支持的提供商配置
LLM_PROVIDERS = {
    "Ollama":     {"type": "ollama",    "url": "http://localhost:11434"},
    "OpenAI":     {"type": "openai",    "key": "sk-xxx"},
    "Anthropic":  {"type": "anthropic", "key": "sk-ant-xxx"},
    "Google":     {"type": "google",    "key": "AIzaXXX"},
    "Azure":      {"type": "azure",     "endpoint": "https://xxx.openai.azure.com"},
    "LM Studio":  {"type": "lm-studio", "url": "http://localhost:1234"},
    "LocalAI":    {"type": "localai",   "url": "http://localhost:8080"},
    "Groq":       {"type": "groq",      "key": "gsk-xxx"}
}

RAG功能详解

格式支持：PDF, DOCX, TXT, MD, CSV, JSON 检索模式：相似度搜索（默认）、混合搜索（向量+关键词）、全文搜索

实测表现：100页PDF + 50个Markdown文档，AnythingLLM都能正确检索，延迟约200-500ms。

对比：AnythingLLM vs Open WebUI

对比项 AnythingLLM Open WebUI
安装大小 ~200MB ~800MB
RAG功能 极强 中等
多用户 有 有
UI美观度 一般 极好
适合场景 个人知识库 团队协作聊天

建议：两个都装，AnythingLLM做RAG知识库，Open WebUI做日常聊天和团队协作。端口不冲突，可以同时运行。