大数跨境

Google DeepMind 推出开源模型 DiffusionGemma,可将文本生成速度提升多达四倍

Google DeepMind 推出开源模型 DiffusionGemma,可将文本生成速度提升多达四倍 土耳其小莫
2026-06-12
2
导读:DiffusionGemma 以 Apache 2.0 许可证发布,定位为拥有 260 亿参数的混合专家(MoE)模型。

DiffusionGemma:并行生成文本的开源AI模型

Google DeepMind发布实验性开源模型DiffusionGemma,作为Gemma 4家族新成员,其采用非线性的文本扩散技术。与传统模型不同,该模型可并行生成整个文本块,在本地硬件(如Nvidia DGX)或普通游戏GPU上运行更高效。

参数规模与部署门槛

DiffusionGemma基于Apache 2.0许可证发布,拥有260亿参数的混合专家(MoE)架构,推理时仅激活38亿参数。经量化处理后,可在18GB VRAM的高端消费级GPU上运行。

核心优势:并行生成与速度提升

区别于传统自回归模型的逐token生成,DiffusionGemma一次性草稿生成256个token块并迭代优化。这种双向注意力机制特别适合行内编辑、代码补全及数学图表等非线性场景。据测试,其在专用GPU上的生成速度提升可达四倍:单卡NVIDIA H100超1000 tokens/s,RTX 5090超700 tokens/s。

生态支持与使用建议

Google强调该模型专为速度和并行生成优化,追求最高输出质量仍建议使用标准Gemma 4。目前模型权重已在Hugging Face开放,支持MLX、vLLM及Transformers等工具,llama.cpp适配即将推出;云端可通过Gemini Enterprise Agent Platform Model Garden和NVIDIA NIM进行测试。

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 26498
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读242
粉丝0
内容26.5k