Google 开源 Gemma 4 12B:专为 16G 显存的无编码器多模态模型
🩺 摘要
今天,Google 在 Gemma 4 家族中推出了一个全新的成员——Gemma 4 12B。
📝 详情
今天,Google 在 Gemma 4 家族中推出了一个全新的成员——Gemma 4 12B。
这个模型跟之前 4 月份发布的 Gemma 4 系列(E2B、E4B、26B-A4B、31B)不同,它是一个 12B 参数的稠密模型,主打一个核心场景:在 16G 显存的笔记本上本地跑多模态推理。
UnslothAI 已经同步放出 GGUF 量化版,可以开箱即用。
01. 什么叫"无编码器"?为什么很重要?
这是这篇推文最值得搞懂的一个概念。
传统的多模态模型,处理一张图片是这样的流程:
图片 → 视觉编码器(如 SigLIP/CLIP,150M~550M 参数)→ 提取特征向量 → 送入 LLM
处理音频也一样:音频 → 音频编码器(300M 参数)→ 提取特征 → 送入 LLM
Gemma 4 12B 把这层中间商跳过了。
图片和音频数据直接喂进 LLM 的主干网络,由 Transformer 自己学习如何理解这些非文本输入。不需要单独的 SigLIP 视觉塔、不需要独立的音频编码器——**整个模型就是一个统一的 Tr
今天,Google 在 Gemma 4 家族中推出了一个全新的成员——Gemma 4 12B。
这个模型跟之前 4 月份发布的 Gemma 4 系列(E2B、E4B、26B-A4B、31B)不同,它是一个 12B 参数的稠密模型,主打一个核心场景:在 16G 显存的笔记本上本地跑多模态推理。
UnslothAI 已经同步放出 GGUF 量化版,可以开箱即用。
01. 什么叫"无编码器"?为什么很重要?
这是这篇推文最值得搞懂的一个概念。
传统的多模态模型,处理一张图片是这样的流程:
图片 → 视觉编码器(如 SigLIP/CLIP,150M~550M 参数)→ 提取特征向量 → 送入 LLM
处理音频也一样:音频 → 音频编码器(300M 参数)→ 提取特征 → 送入 LLM
Gemma 4 12B 把这层中间商跳过了。
图片和音频数据直接喂进 LLM 的主干网络,由 Transformer 自己学习如何理解这些非文本输入。不需要单独的 SigLIP 视觉塔、不需要独立的音频编码器——**整个模型就是一个统一的 Tr
💬 评论 (0)