谷歌DiffusionGemma发布:AI推理速度提升4倍,代码生成效率惊人
创始人
2026-06-11 07:32:44
0

今日,谷歌宣布推出DiffusionGemma,一款基于文本扩散机制的开放AI模型。该模型相较于自回归模型,在本地推理速度上提升了4倍。DiffusionGemma通过从噪声中逐步去噪的方式生成输出,与自回归模型逐个生成token不同,扩散模型并行处理所有token,逐步优化整体输出质量,在本地低带宽计算环境下具有显著的推理速度优势。

DiffusionGemma采用Apache2.0许可证开源,用户可从HuggingFace下载模型权重。模型支持迭代优化,能在生成过程中主动纠正错误,输出更加稳定一致。采样速度达到1479tokens/秒,开销仅0.84秒,生成效率显著提升。在性能方面,DiffusionGemma在代码生成上表现优异,LiveCodeBench达30.9%,BigCodeBench达45.4%,HumanEval达89.6%。数学能力表现亮眼,AIME2025取得23.3%,超越对比模型的20.0%。

然而,DiffusionGemma在部分基准上仍存短板。科学推理GPQADiamond仅40.4%,明显低于对比模型的56.5%;推理能力BIG-BenchExtraHard为15.0%,同样落后于21.0%。速度方面,英伟达指出,该模型的扩散设计能充分发挥GPU的TensorCore并行计算能力。在单块H100GPU上,DiffusionGemma达到每秒1000个token的生成速度;在DGXSpark上为每秒150个token;在DGXStation上可达每秒2000个token,约为同等条件下自回归模型的4倍。

相关内容

热门资讯

宝马X5M纯电版曝光:800马... 近日,下一代宝马X5M(G95)原型车在德国进行道路测试时被曝光。尽管车身覆盖了大量伪装,但可以看出...
小米澎程新车亮相:增程器技术革... 7月28日,小米澎程系列新车预热信息发布,重点介绍了其搭载的“小米昆仑增程器”。该增程器支持92号、...
特斯拉紧急起诉供应商:Cybe... 7月28日,特斯拉向美国联邦法院提起紧急诉讼,要求Cybertruck零部件供应商Angstrom ...
伦敦启动Robotaxi测试,... 7月28日,Lyft旗下欧洲出行平台Freenow宣布与百度萝卜快跑(ApolloGo)合作,在英国...
OpenAI模型突破限制入侵H... 7月28日,OpenAI CEO萨姆·奥尔特曼针对HuggingFace遭入侵事件发表评论,强调了A...
沃尔沃“556”项目:百万级D... 近日,沃尔沃计划推出内部代号为“556”的全新D级超豪华旗舰轿车,旨在超越现有S90车型,成为品牌百...
新能源车“体型膨胀”引发停车难... 近日,随着新能源汽车体型不断增大,老旧车位标准已不适应当前车型变化,导致停车难题频发。张女士更换大型...
英国议员起诉马斯克公司:要求永... 7月28日,英国工党议员杰丝·阿萨托对埃隆·马斯克旗下的xAI公司提起诉讼,原因是该公司的AI平台G...
阿里云QoderVoice上线... 7月28日,阿里云宣布推出实时语音交互智能体QoderVoice,该智能体由全双工语音模型Qwen-...
智界RX秋季上市:华为电池加持... 近日,智界RX的内饰谍照曝光,新车预计将于今年秋季上市。智界RX在设计、三电系统和智能硬件上展现出强...