Google 开源 Gemma 4 12B:专为 16G 显存的无编码器多模态模型

📡 AI新闻 💬
Google 开源 Gemma 4 12B:专为 16G 显存的无编码器多模态模型

🩺 摘要

今天,Google 在 Gemma 4 家族中推出了一个全新的成员——Gemma 4 12B。

📝 详情

今天,Google 在 Gemma 4 家族中推出了一个全新的成员——Gemma 4 12B

这个模型跟之前 4 月份发布的 Gemma 4 系列(E2B、E4B、26B-A4B、31B)不同,它是一个 12B 参数的稠密模型,主打一个核心场景:在 16G 显存的笔记本上本地跑多模态推理

UnslothAI 已经同步放出 GGUF 量化版,可以开箱即用。


01. 什么叫"无编码器"?为什么很重要?

这是这篇推文最值得搞懂的一个概念。

传统的多模态模型,处理一张图片是这样的流程:

图片 → 视觉编码器(如 SigLIP/CLIP,150M~550M 参数)→ 提取特征向量 → 送入 LLM

处理音频也一样:音频 → 音频编码器(300M 参数)→ 提取特征 → 送入 LLM

Gemma 4 12B 把这层中间商跳过了

图片和音频数据直接喂进 LLM 的主干网络,由 Transformer 自己学习如何理解这些非文本输入。不需要单独的 SigLIP 视觉塔、不需要独立的音频编码器——**整个模型就是一个统一的 Tr

今天,Google 在 Gemma 4 家族中推出了一个全新的成员——Gemma 4 12B

这个模型跟之前 4 月份发布的 Gemma 4 系列(E2B、E4B、26B-A4B、31B)不同,它是一个 12B 参数的稠密模型,主打一个核心场景:在 16G 显存的笔记本上本地跑多模态推理

UnslothAI 已经同步放出 GGUF 量化版,可以开箱即用。


01. 什么叫"无编码器"?为什么很重要?

这是这篇推文最值得搞懂的一个概念。

传统的多模态模型,处理一张图片是这样的流程:

图片 → 视觉编码器(如 SigLIP/CLIP,150M~550M 参数)→ 提取特征向量 → 送入 LLM

处理音频也一样:音频 → 音频编码器(300M 参数)→ 提取特征 → 送入 LLM

Gemma 4 12B 把这层中间商跳过了

图片和音频数据直接喂进 LLM 的主干网络,由 Transformer 自己学习如何理解这些非文本输入。不需要单独的 SigLIP 视觉塔、不需要独立的音频编码器——**整个模型就是一个统一的 Tr