Apple Silicon 的 Mac 是本地跑大模型最省心的设备：统一内存让 GPU 可以直接访问全部内存，16GB 内存的 MacBook 就能流畅跑 7B 模型，64GB 的 Mac 甚至可以运行需要高端 PC 才能带的 34B 模型。本文从安装到选模型讲完。

💡 你将学到

Apple Silicon 的 Mac 是本地跑大模型最省心的设备：统一内存让 GPU 可以直接访问全部内存，16GB 内存的 MacBook 就能流畅跑 7B 模型，64GB 的 Mac 甚至可以运行需要高端 PC 才能带的 34B 模型。本文从安装到选模型讲完。

📜 目录

• 一、为什么 Mac 适合跑本地大模型
• 二、安装 Ollama：一条命令
• 三、下载并运行模型
• 四、模型怎么选：三条原则
• 五、性能预期与常用参数
• 六、接进日常工具
• 常见问题
• 相关文章

在Mac上本地运行Ollama：Apple Silicon完整指南

Apple Silicon 的 Mac 是本地跑大模型最省心的设备：统一内存让 GPU 可以直接访问全部内存，16GB 内存的 MacBook 就能流畅跑 7B 模型，64GB 的 Mac 甚至可以运行需要高端 PC 才能带的 34B 模型。本文按"安装 → 下载模型 → 选模型 → 调参数"的顺序讲完。

一、为什么 Mac 适合跑本地大模型

传统 PC 跑大模型看独立显卡的显存：8GB 显存只能跑 7B 级别，16GB 显存勉强跑 13B。Apple Silicon 没有独立的显存概念，CPU 和 GPU 共享同一块内存，模型可以吃满全部内存：

具体能跑多大还取决于模型量化版本和上下文长度设置，以实际测试为准。

二、安装 Ollama：一条命令

Ollama 是目前 Mac 上最简单的大模型运行工具，官方提供一键安装脚本，在终端执行：

curl -fsSL https://ollama.com/install.sh | sh

安装完成后输入 ollama --version 能输出版本号即成功。Ollama 装好后会在后台常驻一个本地服务，默认端口 11434。安装方式随版本迭代可能有变化，以官网文档为准。

三、下载并运行模型

# 拉取模型（以 Llama 3.1 8B 为例）
ollama pull llama3.1:8b

# 直接进入对话
ollama run llama3.1:8b

常用命令一览：

模型列表以 Ollama 官方模型库为准，里面可以看到每个模型的大小和适合的内存。

四、模型怎么选：三条原则

1. 先看内存再选档位：16GB 首选 7B-8B，别硬上 14B，会频繁换页变慢。
2. 优先量化版：同一模型选 Q4/Q5 量化版本，体积小、速度快，质量损失有限。
3. 不确定就选通用档：7B-8B 的指令模型（如 Llama 3.1 8B、Qwen2.5 7B）能覆盖大多数日常任务。

如果拿不准自己的 Mac 适合哪一档，先跑 7B 试试，再往上加。

五、性能预期与常用参数

实测参考（具体以自己机器为准）： - 16GB MacBook 跑 7B 模型：约 30-50 token/秒，对话基本无感 - 64GB Mac 跑 70B 量化模型：约 5-12 token/秒，能读但偏慢

常用环境变量：

GPU 方面：Ollama 通过 Metal API 调用 Apple 的 GPU，安装即用，不需要额外配置。

六、接进日常工具

Ollama 启动后就是一个本地 API（http://localhost:11434），任何支持 OpenAI 兼容接口的工具都可以指向它： - VS Code 插件（如 Continue、Cline）配置本地模型做代码补全 - 聊天前端（如 Open WebUI）连接本地服务 - 命令行直接用 curl 调用，方便写脚本

常见问题

Q：跑本地模型费电吗？ A：只跑 7B 级别对话，MacBook Air 每小时耗电大约 15-20%；空闲时模型会自动释放，不持续耗电。

Q：内存不够怎么办？ A：三个办法：换更小的模型档位、缩短上下文长度、用更小的量化版本，组合使用效果最好。

Q：Mac 会不会发热降频？ A：持续高负载会发热，长时间跑大模型建议垫高散热；短时对话问题不大。

Q：和云端 API 比怎么样？ A：本地免费、离线可用、数据不出设备，但智力上限不如旗舰云端模型。日常任务本地够用，难题再上云端，两边互补。

相关文章

• 在macOS上运行Ollama：Apple Silicon完整指南
• 在Mac本地运行Ollama：M1-M5完整设置指南（2026）
• 用Docker本地运行Ollama完整指南