零成本本地AI编程:Ollama + Continue.dev 从零搭建(Mac/Windows/Linux全平台)

💬 🔥 Trending
零成本本地AI编程:Ollama + Continue.dev 从零搭建(Mac/Windows/Linux全平台)

🩺 摘要

不想把代码传上云、不想每月付费、还想用AI帮忙写代码?本地跑AI编程助手是唯一的答案。但本地跑AI到底要什么配置、怎么装、装完好不好用?这篇从零开始教你在自己的电脑上搭一套完全免费的本地AI编程环境。

📝 详情

零成本本地AI编程:Ollama + Continue.dev 从零搭建

系列第()篇 | 覆盖:run ollama locally on mac(30📊)、run ollama locally docker(30📊)、run ollama locally on iphone(30📊)、run ollama locally on android(30📊) 上篇:免费AI编程助手5分钟配置指南


🧱 为什么要在本地跑 AI 编程助手?

不用纠结免费额度。 Copilot每月2000次、Windsurf每月500次,用完了就要等。本地跑的没有限制。

数据不出门。 代码直接传云端公司?很多企业禁止。本地跑,代码永远在自己电脑上。

离线也能用。 飞机上、地铁里、没网的咖啡厅,本地AI一样工作。

零成本。 一次配置,永久免费。


💻 先看你的电脑能不能跑

配置等级 用什么模型 速度 适合谁
🟢 入门(8GB内存) Qwen2.5-Coder 7B 6-10 tok/s 轻量补全+简单对话
🟡 中等(16GB内存) DeepSeek-Coder-V2 16B 8-15 tok/s 日常编程助手
🔴 高端(32GB+ / 独显) Qwen2.5-Coder 32B 15-25 tok/s 复杂代码生成+重构

Mac用户(统一内存): - M1/M2 16GB → 入门到中等 - M2/M3/M4 32GB+ → 高端

Windows/Linux用户(NVIDIA显卡): - RTX 3060 12GB → 中等(8B-16B模型) - RTX 4090 24GB → 高端(32B模型)

没显卡也能跑: CPU only模式跑7B模型,5-8 tok/s,写代码足够用。


🔨 第一步:安装 Ollama

Mac

brew install ollama
# 或官网下载 https://ollama.com/download

Windows

① 下载安装包 https://ollama.com/download ② 双击安装,自动加到系统路径 ③ 打开终端(PowerShell或CMD)输入 ollama --version 验证

Linux

curl -fsSL https://ollama.com/install.sh | sh

Docker(所有平台通用)

docker run -d --name ollama -p 11434:11434 ollama/ollama

✅ 验证:终端执行 ollama --version,输出版本号即安装成功。


🔌 第二步:下载编程模型

打开终端:

# 推荐入门(8GB内存就能跑)
ollama pull qwen2.5-coder:7b

# 推荐进阶(16GB内存)
ollama pull deepseek-coder-v2:16b

# 看看有哪些模型:
ollama list

模型大小参考: | 模型 | 大小 | 硬件需求 | 编程能力 | |:----|:---:|:--------:|:--------:| | qwen2.5-coder:7b | 4.5GB | 8GB RAM | ★★★☆☆ | | deepseek-coder-v2:16b | 9GB | 16GB RAM | ★★★★☆ | | qwen2.5-coder:32b | 18GB | 32GB RAM | ★★★★★ |

⏳ 下载时间:4.5GB约5-15分钟(看网速),9GB约10-30分钟。第一次配可以先下7B试试。


💻 第三步:VS Code + Continue.dev

① VS Code扩展商店搜索 "Continue" → 安装
② 打开Continue侧边栏(左侧新图标)
③ 点击齿轮图标 → 配置

在配置文件 ~/.continue/config.json 中填入:

{
  "models": [
    {
      "title": "Ollama Local",
      "provider": "ollama",
      "model": "qwen2.5-coder:7b"
    }
  ],
  "tabAutocompleteModel": {
    "title": "Qwen Coder 7B",
    "provider": "ollama",
    "model": "qwen2.5-coder:7b"
  }
}

✅ 验证:Continue对话里打 "hello",看Ollama有没有回复。


📱 进阶:iPhone/Android 远程调用

在手机上远程连家里的Ollama:

① 在电脑上暴露Ollama端口:

# 注意:仅限家庭/可信网络
ollama serve &
# 获取本机局域网IP
ipconfig  # Windows
ifconfig  # Mac/Linux

② 手机App(如Enchanted / Ollama Mobile)填入电脑IP + 端口11434

③ 在手机上写代码时,AI模型跑在电脑上,结果回传到手机。

⚠️ 警告:Ollama默认没有认证!不要暴露到公网,仅限局域网使用。


🔄 第四步:优化(让本地AI更好用)

打开自动补全

Continue支持Tab自动补全,写入上面config的 tabAutocompleteModel 配置即可。

注意:本地模型的自动补全速度不如云端(0.3-0.8秒 vs 0.1-0.3秒),但免费、隐私。

挂载项目文档

在Continue设置中加入项目docs:

{
  "contextProviders": [
    {
      "name": "docs",
      "params": {
        "docs": [
          {"title": "你的项目", "url": "file:///path/to/your/project/docs"}
        ]
      }
    }
  ]
}

使用更快的模型

场景 模型
自动补全 qwen2.5-coder:7b(轻快)
对话/改代码 deepseek-coder-v2:16b(准确)
复杂重构 qwen2.5-coder:32b(最强)

可以在Continue配置多个模型,对话时手动切换。


💡 省显存技巧

内存紧张 这么做
8GB 只用7B模型,关浏览器标签页
16GB 16B模型流畅,别同时开3个VS Code窗口
32GB+ 可以同时跑32B + 浏览器 + 聊天软件
Mac统一内存 macOS会自动swap,比Windows/Linux能扛
显卡不够 OLLAMA_NUM_PARALLEL=1 环境变量减负

📰 验证结果

跑一段最直接的测试:

# 打开终端,直接问Ollama
ollama run qwen2.5-coder:7b "写一个Python函数:读取CSV文件并返回平均值"

如果10秒内出结果,恭喜你,本地AI编程环境搭建成功!


📌 总结

5分钟搞定本地AI编程:

① 装Ollama(1分钟)
② 拉模型(下载时间)
③ 装Continue.dev(1分钟)
④ 配config(1分钟)

硬件够用吗?8GB起步即可。
多少钱?零。
数据安全?自己的电脑。
离线能用?当然。

本地AI编程的门槛比想象中低得多。一台普通的笔记本(8GB内存)就能跑起来,效果虽然不如GPT-5,但对于日常编码辅助、代码补全、简单重构完全够用。

而且它有一个云端永远比不了的优点:随时可用,永不限速。