我断网用一台400美元的笔记本跑AI，结果居然够用
突发奇想：如果彻底断网，光靠一台连独立显卡都没有的笔记本，能不能正常用AI一周？我装上了Ollama，拉了几个7B-14B的模型，把API密钥全删了。结果比我想象的能打得多。本文记录实测结果和完整复现步骤。
💡 你将学到
突发奇想：如果彻底断网，光靠一台连独立显卡都没有的笔记本，能不能正常用AI一周？我装上了Ollama，拉了几个7B-14B的模型，把API密钥全删了。结果比我想象的能打得多。本文记录实测结果和完整复现步骤。
我断网用一台400美元的笔记本跑AI，结果居然够用
突发奇想：如果彻底断网，光靠一台连独立显卡都没有的笔记本，能不能正常用AI一周？我装上了Ollama，拉了几个7B-14B的模型，把API密钥全删了。结果比我想象的能打得多。这篇把实测结果和复现步骤都写出来。
一、测试配置
| 项目 | 配置 |
|---|---|
| 设备 | ThinkPad T14s（AMD Ryzen 7, 16GB内存, 无独立显卡） |
| 运行工具 | Ollama |
| 模型 | Qwen2.5-7B、Llama-3.1-8B |
| 代码补全 | continue.dev 插件接入本地模型 |
| 测试方式 | 一周内完全不调用任何云端 API |
二、意外好用的部分
- 代码补全：延迟 1-2 秒，和 Copilot 的体感接近，完全可用。这是最大的惊喜。
- 摘要总结：长文总结、会议记录整理，表现稳定。
- 头脑风暴：列方案、想点子、拆任务，够用且不打断思路。
- 短文本改写：邮件、文案、错误信息润色，质量过关。
三、确实不行的部分
- 长上下文推理：超过约 5K token 的对话会忘掉前文，长文档分析做不好。
- 创意写作：文笔平淡，缺细节和层次，写小说散文不行。
- 中英文混用：中英夹杂的文本处理得很糟糕，会串语言。
四、复现这套环境：四步
第1步：安装 Ollama
curl -fsSL https://ollama.com/install.sh | sh
第2步：拉取模型
ollama pull qwen2.5:7b
ollama pull llama3.1:8b
第3步：配置代码补全 VS Code 安装 continue.dev 插件，在配置里加一个 Ollama provider，模型选 7B 档，API 地址填 http://localhost:11434，保存即生效。
第4步：按内存调参 16GB 内存建议把上下文长度调低一些，避免模型加载后内存吃紧；对话模型和补全模型可以分开，补全用 7B，复杂对话用 14B。
五、什么场景值得本地跑
| 任务类型 | 本地 7B-8B 表现 | 建议 |
|---|---|---|
| 代码补全 | 好 | 直接本地 |
| 文本摘要 | 好 | 直接本地 |
| 隐私数据相关 | 必须本地 | 千万别上云 |
| 离线环境 | 唯一选择 | 本地 |
| 复杂推理 | 一般 | 上云端旗舰 |
| 长文创作 | 差 | 上云端旗舰 |
| 多语言混用 | 差 | 上云端 |
六、结论
普通开发者 80% 的 AI 需求，本地 7B-8B 模型在消费级硬件上就能搞定，差距在快速缩小。断网的时候还能用 AI，那种自由感值回票价。
常见问题
Q：16GB 内存会不会卡？ A：跑 7B 模型没问题，注意别开太多程序抢占内存；模型加载后占用内存较大，属正常现象。
Q：为什么我的补全没有这么快？ A：一是看模型档位，7B 才够快；二是看上下文长度设置，太长会明显变慢。
Q：笔记本能跑 14B 吗？ A：16GB 内存能跑但偏挤，建议只跑 7B-8B；32GB 内存跑 14B 更从容。
Q：本地模型会不会答错？ A：会。7B 模型在事实性和复杂推理上不如旗舰云端模型，重要结论建议交叉验证。
相关文章
本站文章由编辑人工撰写，收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库，仅作信息参考，不构成付费推广。
