继4月发布Gemma 4系列后，Google近日推出Gemma 4 12B模型。该模型填补了移动端E4B与高性能26B MoE模型之间的空白，旨在不牺牲质量的前提下适配消费级设备。
️ 低门槛本地部署
Gemma 4 12B无需昂贵AI加速器即可运行，仅需16GB系统RAM或VRAM，内存占用约为26B MoE版本的一半。它支持复杂推理及代理工作流，是Gemma家族首个支持本地音频输入的中等规模模型。
⚡️ 技术创新亮点
- 多令牌预测（MTP）：首次默认集成全新设计的MTP草稿生成器，通过预测下一组令牌降低延迟。
- 统一多模态架构：视觉端采用优化嵌入模块，单次矩阵乘法传递空间感知数据；音频端直接将原始信号映射至文本向量空间，均无需额外中间编码器。
📥 获取与生态支持
Gemma 4系列下载量已超1.5亿次。开发者可通过LM Studio、Ollama、Google AI Edge Gallery、LiteRT-LM CLI等工具访问Gemma 4 12B；预训练及微调权重可在Hugging Face和Kaggle下载。此外，Google还推出了官方技能库Gemma Skills Repository以支持代理开发。