英伟达BlackwellGB300刷新MoE预训练纪录,性能提升50%!
创始人
2026-07-22 15:13:30
0

7月21日,英伟达宣布其BlackwellGB300在MoE预训练领域刷新了世界纪录,实现了每GPU算力达到1648TFLOPs。MoE(混合专家模型)是一种将大型模型分割为多个更小的“专家”子网络的机器学习模型架构,这种设计旨在降低计算成本,同时实现更大规模的模型容量,尤其在大语言模型中提升效率。英伟达在博文中提到,使用256块GPU预训练DeepSeek-v3671B模型时,GB300NVL72达到了每GPU吞吐1648TFLOPs的新纪录,相较于之前使用的更多GPU硬件,GB300NVL72以更少的硬件达到了相同的性能。

在过去的6个多月里,英伟达通过模拟超过25万种不同配置,为Blackwell摸索发现了38项重大优化方案,并累计进行了140万小时的GPU优化测试。与2025年11月的预训练测试结果相比,GB300NVL72系统性能优化提升了50%。此外,与上一代GB200每GPU606TFLOPs的成绩相比,GB300实现了约3倍的性能提升。

相关内容

热门资讯

东擎携手AxeleraAI,A... 昨日,东擎工业(ASRock Industrial)宣布与荷兰AI芯片企业Axelera AI达成战...
小鹏L03首日交车火爆,女性车... 7月22日,小鹏汽车宣布首批MONAL03正式交付。该车型于上周上市,起售价12.38万元,上市1小...
日本全力冲刺AI自主:Noet... 近日,日本政府支持的Noetra公司,专注于物理人工智能(PhysicalAI)和机器人基础模型的开...
成都力推AI+新能源:智能网联... 今日,成都市人民政府办公厅发布《成都市深入实施“人工智能+”行动方案》,旨在加强通用技术研发,推动智...
小红书回应IPO传闻:相关信息... 近日,有较多传言称“小红书已于6月底前秘密提交IPO申请”,但因前员工举报其“上市合规”问题而受阻。...
奇瑞iCAR V23马来西亚首... 今日,奇瑞汽车旗下iCAR品牌宣布,马来西亚首台iCAR V23正式下线,预计新车将于7月底到店。奇...
全球瞭望|波黑车企负责人:中国... 新华社萨拉热窝7月21日电(记者解园)波斯尼亚和黑塞哥维那(波黑)汽车工业集团负责人阿明·霍季奇日前...
基本建成交通强国将取得决定性进... 新华社北京7月21日电 题:基本建成交通强国将取得决定性进展——国新办发布会聚焦“十五五”时期交通运...
特斯拉夏季软件更新来袭:Gro... 今日,特斯拉宣布了2026.26版本的夏季软件更新,带来了一系列新功能和升级。更新内容包括Grok语...