Jan（4.4万星）2026：离线优先的AI助手桌面应用——本地跑模型还带OpenAI兼容API

Jan（43,864星）是离线优先的桌面AI助手——干净UI本地运行开源模型，还带OpenAI兼容的本地API。本文是完整指南。

💡 你将学到

Jan（43,864星）是离线优先的桌面AI助手——干净UI本地运行开源模型，还带OpenAI兼容的本地API。本文是完整指南。

📜 目录

• 直接给结论
• Jan的亮点
• 入门
• 使用本地API
• 实用技巧
• FAQ
• 相关文章

直接给结论

janhq/jan（43,864星，TypeScript）是离线优先的AI助手桌面应用。安装、下载模型、聊天——完全离线。它还提供OpenAI兼容的本地API服务器，其他工具（如Open WebUI或你的脚本）也能用同一批本地模型。

Jan的亮点

• 离线优先：模型100%跑在你自己设备上
• 干净桌面UI：Windows、macOS、Linux
• 模型中心：应用内浏览下载GGUF模型
• 本地API：OpenAI兼容端点，方便集成
• 扩展：通过Jan扩展添加工具和功能

入门

1. 从 https://jan.ai 下载Jan（Windows/macOS/Linux）。
2. 打开应用，进入模型中心。
3. 下载一个模型（先从3B-8B量化GGUF开始）。
4. 开始对话——离线运行，无需账号。

使用本地API

在设置里开启本地API服务器，然后：

curl http://localhost:1337/v1/chat/completions \n  -H "Content-Type: application/json" \n  -d '{"model": "llama3.2", "messages": [{"role": "user", "content": "Hello"}]}'

任何OpenAI兼容客户端都能和你的本地模型对话。

实用技巧

• 试试扩展市场里的连接器（比如需要时接云端模型）。
• 保持应用更新——每次发布推理性能都有提升。
• 跑大模型时关闭其他应用，或用16GB以上内存的机器。

FAQ

免费吗？ 是——开源（应用为AGPL）。

需要GPU吗？ 不需要——CPU可跑，有GPU时自动利用。

能当本地OpenAI替代品吗？ 能——内置API服务器与OpenAI SDK即插即用兼容。

相关文章

• 2026年本地运行Llama：llama.cpp（12.3万星）完整指南，从下载GGUF到任意硬件上聊天
• Linux本地AI助手：Ollama + Open WebUI完全离线方案
• 2026年自托管AI聊天机器人：AnythingLLM（6.4万星）对比 Open WebUI 与 chat-ui，服务器上的私密ChatGPT

❓ 常见问题

Is it free?

Yes - open source (AGPL for the app).

Does it need a GPU?

No - it runs on CPU, and uses GPU when available.

Can I use it as a local OpenAI replacement?

Yes - the built-in API server makes it drop-in compatible with OpenAI SDKs.