关注AI前沿科技动态与爱眸科技的最新探索
2026年6月12日,Google DeepMind发布了一个可能改变大模型技术路线的实验性模型——DiffusionGemma。
DiffusionGemma采用扩散模型(Diffusion Model)来生成文本,打破了自GPT以来"从左到右逐词预测"的自回归范式。模型可以并行生成整段文本,推理速度比同等规模的自回归模型快约4倍。
该模型以Apache 2.0许可开源,260亿参数采用MoE(混合专家)架构。虽然目前仅在特定场景验证,但展示了"非自回归"路线的巨大潜力。如果这一技术路线成熟,将从根本上改变大模型推理的经济学。