
DiffusionGemma:并行生成文本的开源AI模型
Google DeepMind发布实验性开源模型DiffusionGemma,作为Gemma 4家族新成员,其采用非线性的文本扩散技术。与传统模型不同,该模型可并行生成整个文本块,在本地硬件(如Nvidia DGX)或普通游戏GPU上运行更高效。
参数规模与部署门槛
DiffusionGemma基于Apache 2.0许可证发布,拥有260亿参数的混合专家(MoE)架构,推理时仅激活38亿参数。经量化处理后,可在18GB VRAM的高端消费级GPU上运行。
核心优势:并行生成与速度提升
区别于传统自回归模型的逐token生成,DiffusionGemma一次性草稿生成256个token块并迭代优化。这种双向注意力机制特别适合行内编辑、代码补全及数学图表等非线性场景。据测试,其在专用GPU上的生成速度提升可达四倍:单卡NVIDIA H100超1000 tokens/s,RTX 5090超700 tokens/s。
生态支持与使用建议
Google强调该模型专为速度和并行生成优化,追求最高输出质量仍建议使用标准Gemma 4。目前模型权重已在Hugging Face开放,支持MLX、vLLM及Transformers等工具,llama.cpp适配即将推出;云端可通过Gemini Enterprise Agent Platform Model Garden和NVIDIA NIM进行测试。

