llama.cpp 0.5.0 来了：RPC 协议大改，升级前先看这三件事

📡 AI新闻 2026-09-27 约 1 分钟阅读

llama.cpp 0.5.0 来了：RPC 协议大改，升级前先看这三件事我机器上的 llama.cpp，半年前还是 b 一千多的编号，现在已经换成明明白白的 0.5.0。9 月 4 日 0.4.0，9 月 14 日 0.4.1，9 月 23 日 0.5.0，一个月连发三个正式版。这个从 202

💡 你将学到

📜 目录

一个月三个正式版（节奏变了）
RPC 协议跳到 v7（多机用户必读）
升级前先看这三件事（清单）
速度这块（顺带一提）
我的建议（等你拍板）

llama.cpp 0.5.0 来了：RPC 协议大改，升级前先看这三件事

我机器上的 llama.cpp，半年前还是 b 一千多的编号，现在已经换成明明白白的 0.5.0。9 月 4 日 0.4.0，9 月 14 日 0.4.1，9 月 23 日 0.5.0，一个月连发三个正式版。这个从 2023 年做到现在的项目，发版节奏明显变了。这一版带了 182 个提交，性能提升之外，有一条底层变更值得所有本地玩家升级前停下来看一眼。

一个月三个正式版（节奏变了）

llama.cpp 过去只有 b 编号，每天一个 nightly，用户升级全凭感觉。今年 1 月起官方加了 0.x 的正式版本号，现在两条线并行：b 编号继续做 nightly，0.5.0 这样的正式版从里面打tag（在代码历史上做个标记，方便随时回退）。

更关键的是工程配套跟上了。这一个开发窗口里，官方把 API 和 ABI 的兼容性检查加进了 CI（持续集成，每次提交自动跑的检查流水线），还专门写了校验脚本。以前接口有没有被改坏，靠下游项目踩坑反馈；现在有机器把门，接口不兼容的提交过不了检查。这是敢一个月发三个正式版的底气。

RPC 协议跳到 v7（多机用户必读）

这一版同步把底层的 ggml（张量运算库，llama.cpp 的地基）升到了 0.25.0，RPC 协议的大版本跟着跳到 v7。RPC（远程过程调用）是 llama.cpp 里把模型拆到局域网另一台机器上跑的通信方式，显存不够的老机器可以当"显存外挂"用。实际影响一句话：v7 的节点和旧版本节点不能混着连。

顺带说一句，这一窗口 RPC 本身也修了几个老毛病：缓存改成只对模型权重生效，不再缓存反复变化的中间量；某块缓冲区被释放后，对应的计算图缓存会跟着失效，避免拿旧图继续算。多机党跑长任务的体感应该更稳。

升级前先看这三件事（清单）

第一件，多机 RPC 用户：全部节点一起升。协议大版本不兼容，一半新一半旧直接连不上，别单独升级主机。

第二件，单机用户：可以直升。单机不碰 RPC 就没有协议问题，ggml 0.25 还带了跨后端的融合算子扩展、量化修复和显存分配失败的防崩溃检查，都是白拿的稳定性。

第三件，Ollama 和 LM Studio 用户：不用动手。这两个主流工具底层用的就是 llama.cpp，等它们跟进发新版，你更新工具就行，中间这层帮你挡住了协议变更。

速度这块（顺带一提）

性能升级当然也有：Mac 的 Metal 后端给 MoE（混合专家，大模型省算力的主流结构）做了算子融合，M2 Ultra 实测生成快 7%；N 卡把卷积算子换成 implicit GEMM，特定尺寸最高快 19 倍，注意这是算子级微基准；MTP（多 token 预测的投机解码）修好了 CUDA graph 复用，5090 实测再快 4% 到 5%。详细拆解我放在头条那篇里了，这里不展开。