英伟达新显卡驱动开挂：NVIDIA Studio 621.14 让本地大模型提速2.2倍！ 大家对显卡驱动更新的影像，一般是修修 bug、适配几款新游戏，属于"更新了也白更新"的级别。 但当我看了这次 NVIDIA Studio 驱动 621.14 的更新日志感觉有点兴奋了，这次混进来两个新支持

📜 目录

• 这 2.2 倍，是从哪省出来的
• 官方实测数据，直接上表
• 但这四种人，装了也是白装
• 顺手提个避坑提醒
• 写在最后

英伟达新显卡驱动开挂：NVIDIA Studio 621.14 让本地大模型提速2.2倍！

大家对显卡驱动更新的影像，一般是修修 bug、适配几款新游戏，属于"更新了也白更新"的级别。

但当我看了这次 NVIDIA Studio 驱动 621.14 的更新日志感觉有点兴奋了，这次混进来两个新支持让我眼前一亮：

一个是 llama.cpp——本地跑大模型的老牌引擎，是给 MoE 专家模型加了 GPU 缓存，解码速度最高提升约 2.2 倍；另一个是 PyTorch，Blackwell 架构下借助 NVGEMM，NVFP4 大模型解码更快。

翻译一下：什么都不用做，装个驱动，本地大模型就能白捡提速。

天下真有这种好事？我扒了扒这功能的底细，结论是：真，但有门槛——这 2.2 倍不是人人能吃到的。

这 2.2 倍，是从哪省出来的

先讲背景。玩本地大模型的人，这两年都在跟一个矛盾死磕：模型太大，显存太小。

MoE（混合专家）模型是主流解法——模型里挂着一堆"专家"，每个 token 只挑几个出来干活，参数量巨大但计算量不大。比如现在热门的几个开源 MoE 模型，体重动辄 60~90GB，而你的显卡只有 24GB 显存。

常规操作是把大部分专家卸载到内存（RAM），显存只留核心部分。代价是：每生成一个 token，都得跨 PCIe 总线去内存里搬专家权重，来回搬运，速度直接卡死在带宽上。

这次更新带来的方案思路很聪明：专家的命中是不均匀的，少数"热门专家"会被反复用到。 于是给显存里划一块 LRU 缓存，把热点专家常驻进来，命中的就不用再搬了。实测大约用专家总量 10% 的显存做缓存，就能吃下 70%~90% 的命中率。

这个功能源自 llama.cpp 10 月中旬发布的 v0.7.0（--moe-cache-mib 参数），这次的驱动更新把它接力到了 NVIDIA 官方链路里。

官方实测数据，直接上表

开发者的 PR 里给了实测：跑一个 93.7GB 的 Qwen3.8-Flash-Next（Q4 量化），专家权重 65GB，全卸载到内存：

5090 满血 2.2 倍，4090 也有 1.6 倍上下。对显存吃紧的玩家来说，这是今年最大的免费提速，没有之一。

但这四种人，装了也是白装

重点来了，2.2 倍的适用边界很清楚，对号入座：

1. 模型显存放得下的。 比如 4090/3090 跑 30B 级别的模型，全套专家都在显存里，根本没有"卸载"这回事，提速为零。这类玩家该干嘛干嘛。

2. 跑密集（Dense）模型的。 这个缓存是专家粒度的，普通 70B 密集模型卸载到内存跑，一分钱好处都吃不到。

3. 老卡的。 驱动日志里另一个功能——PyTorch 借 NVGEMM 加速 NVFP4 解码——是 Blackwell 专属，也就是 RTX 50 系和 RTX PRO 6000。40 系及更早，纯围观。好在 NVFP4 让 50 系显卡跑 4bit 模型又快又省显存，50 系用户是双喜临门。

4.重度依赖 Agent 编程的。 一个容易忽略的坑：这缓存只加速"逐 token 生成"，不加速长提示词的预填充。如果你用 Cline、Aider 这类 Agent 工具，每轮都要重发一大坨上下文，实际体感提升会明显小于账面数字。它最擅长的场景是长输出——比如让模型一口气写几百行代码。

顺手提个避坑提醒

llama.cpp v0.7.0 把服务端默认端口从 8080 改成了 9931。升级后 Open WebUI、反向代理连不上的，先检查这里。

写在最后

这波更新真正的意义，不是账面上的 2.2 倍，而是撬动了"显存不够"这台天平。

以前想在 24GB 显卡上跑 120B 级别的 MoE 模型，体验是"能跑，但慢到怀疑人生"；现在热点专家进了显存缓存，解码速度能到工作站级别。

省下的钱很实在：一块二手 4090 的价格，够你把内存条插满了。

玩本地大模型的，这个驱动建议无脑更。不玩的——也许这篇文章，就是你入坑的理由。

数据来源：NVIDIA Studio 驱动 621.14 更新日志、llama.cpp v0.7.0 Release Notes 及 PR #29887 实测数据。