零成本本地AI编程:Ollama + Continue.dev 从零搭建(Mac/Windows/Linux全平台)
🩺 摘要
不想把代码传上云、不想每月付费、还想用AI帮忙写代码?本地跑AI编程助手是唯一的答案。但本地跑AI到底要什么配置、怎么装、装完好不好用?这篇从零开始教你在自己的电脑上搭一套完全免费的本地AI编程环境。
📝 详情
零成本本地AI编程:Ollama + Continue.dev 从零搭建
系列第()篇 | 覆盖:
run ollama locally on mac(30📊)、run ollama locally docker(30📊)、run ollama locally on iphone(30📊)、run ollama locally on android(30📊) 上篇:免费AI编程助手5分钟配置指南
🧱 为什么要在本地跑 AI 编程助手?
不用纠结免费额度。 Copilot每月2000次、Windsurf每月500次,用完了就要等。本地跑的没有限制。
数据不出门。 代码直接传云端公司?很多企业禁止。本地跑,代码永远在自己电脑上。
离线也能用。 飞机上、地铁里、没网的咖啡厅,本地AI一样工作。
零成本。 一次配置,永久免费。
💻 先看你的电脑能不能跑
| 配置等级 | 用什么模型 | 速度 | 适合谁 |
|---|---|---|---|
| 🟢 入门(8GB内存) | Qwen2.5-Coder 7B | 6-10 tok/s | 轻量补全+简单对话 |
| 🟡 中等(16GB内存) | DeepSeek-Coder-V2 16B | 8-15 tok/s | 日常编程助手 |
| 🔴 高端(32GB+ / 独显) | Qwen2.5-Coder 32B | 15-25 tok/s | 复杂代码生成+重构 |
Mac用户(统一内存): - M1/M2 16GB → 入门到中等 - M2/M3/M4 32GB+ → 高端
Windows/Linux用户(NVIDIA显卡): - RTX 3060 12GB → 中等(8B-16B模型) - RTX 4090 24GB → 高端(32B模型)
没显卡也能跑: CPU only模式跑7B模型,5-8 tok/s,写代码足够用。
🔨 第一步:安装 Ollama
Mac
brew install ollama
# 或官网下载 https://ollama.com/download
Windows
① 下载安装包 https://ollama.com/download
② 双击安装,自动加到系统路径
③ 打开终端(PowerShell或CMD)输入 ollama --version 验证
Linux
curl -fsSL https://ollama.com/install.sh | sh
Docker(所有平台通用)
docker run -d --name ollama -p 11434:11434 ollama/ollama
✅ 验证:终端执行
ollama --version,输出版本号即安装成功。
🔌 第二步:下载编程模型
打开终端:
# 推荐入门(8GB内存就能跑)
ollama pull qwen2.5-coder:7b
# 推荐进阶(16GB内存)
ollama pull deepseek-coder-v2:16b
# 看看有哪些模型:
ollama list
模型大小参考: | 模型 | 大小 | 硬件需求 | 编程能力 | |:----|:---:|:--------:|:--------:| | qwen2.5-coder:7b | 4.5GB | 8GB RAM | ★★★☆☆ | | deepseek-coder-v2:16b | 9GB | 16GB RAM | ★★★★☆ | | qwen2.5-coder:32b | 18GB | 32GB RAM | ★★★★★ |
⏳ 下载时间:4.5GB约5-15分钟(看网速),9GB约10-30分钟。第一次配可以先下7B试试。
💻 第三步:VS Code + Continue.dev
① VS Code扩展商店搜索 "Continue" → 安装
② 打开Continue侧边栏(左侧新图标)
③ 点击齿轮图标 → 配置
在配置文件 ~/.continue/config.json 中填入:
{
"models": [
{
"title": "Ollama Local",
"provider": "ollama",
"model": "qwen2.5-coder:7b"
}
],
"tabAutocompleteModel": {
"title": "Qwen Coder 7B",
"provider": "ollama",
"model": "qwen2.5-coder:7b"
}
}
✅ 验证:Continue对话里打 "hello",看Ollama有没有回复。
📱 进阶:iPhone/Android 远程调用
在手机上远程连家里的Ollama:
① 在电脑上暴露Ollama端口:
# 注意:仅限家庭/可信网络
ollama serve &
# 获取本机局域网IP
ipconfig # Windows
ifconfig # Mac/Linux
② 手机App(如Enchanted / Ollama Mobile)填入电脑IP + 端口11434
③ 在手机上写代码时,AI模型跑在电脑上,结果回传到手机。
⚠️ 警告:Ollama默认没有认证!不要暴露到公网,仅限局域网使用。
🔄 第四步:优化(让本地AI更好用)
打开自动补全
Continue支持Tab自动补全,写入上面config的 tabAutocompleteModel 配置即可。
注意:本地模型的自动补全速度不如云端(0.3-0.8秒 vs 0.1-0.3秒),但免费、隐私。
挂载项目文档
在Continue设置中加入项目docs:
{
"contextProviders": [
{
"name": "docs",
"params": {
"docs": [
{"title": "你的项目", "url": "file:///path/to/your/project/docs"}
]
}
}
]
}
使用更快的模型
| 场景 | 模型 |
|---|---|
| 自动补全 | qwen2.5-coder:7b(轻快) |
| 对话/改代码 | deepseek-coder-v2:16b(准确) |
| 复杂重构 | qwen2.5-coder:32b(最强) |
可以在Continue配置多个模型,对话时手动切换。
💡 省显存技巧
| 内存紧张 | 这么做 |
|---|---|
| 8GB | 只用7B模型,关浏览器标签页 |
| 16GB | 16B模型流畅,别同时开3个VS Code窗口 |
| 32GB+ | 可以同时跑32B + 浏览器 + 聊天软件 |
| Mac统一内存 | macOS会自动swap,比Windows/Linux能扛 |
| 显卡不够 | 加 OLLAMA_NUM_PARALLEL=1 环境变量减负 |
📰 验证结果
跑一段最直接的测试:
# 打开终端,直接问Ollama
ollama run qwen2.5-coder:7b "写一个Python函数:读取CSV文件并返回平均值"
如果10秒内出结果,恭喜你,本地AI编程环境搭建成功!
📌 总结
5分钟搞定本地AI编程:
① 装Ollama(1分钟)
② 拉模型(下载时间)
③ 装Continue.dev(1分钟)
④ 配config(1分钟)
硬件够用吗?8GB起步即可。
多少钱?零。
数据安全?自己的电脑。
离线能用?当然。
本地AI编程的门槛比想象中低得多。一台普通的笔记本(8GB内存)就能跑起来,效果虽然不如GPT-5,但对于日常编码辅助、代码补全、简单重构完全够用。
而且它有一个云端永远比不了的优点:随时可用,永不限速。
💬 评论 (0)