英伟达联手d-Matrix打造AI混合算力,Token生成速率提升10倍
创始人
2026-07-08 17:12:36
0

7月8日,AI芯片巨头NVIDIA(英伟达)与ASIC初创企业d-Matrix宣布合作,共同打造混合型混合算力基础设施,旨在支持AI模型的高效运行。此次合作的核心产品是Neocloud企业Parasail,它通过结合NVIDIA的Hopper/Blackwell GPU与d-Matrix的Corsair ASIC,实现了Token生成速率的10倍提升。

d-Matrix的Corsair ASIC采用D-IMC(数字存内计算)架构,该架构将计算单元与充足的SRAM集成在同一芯片上,有效降低了数据传输的开销。此外,通过片外LPDDR5技术,Corsair ASIC能够进一步扩展内存容量。在AI推理工作负载中,Parasail利用NVIDIA GPU处理前端的计算密集型预填充任务,而d-Matrix的Corsair ASIC则因其大容量SRAM,非常适合处理后端的延迟敏感型解码任务。

d-Matrix创始人兼首席执行官Sid Sheth强调,Parasail的实践验证了他们从一开始就坚信的观点:推理的未来是异构的。GPU和专用推理加速器不是竞争对手,而是可以相辅相成的伙伴。通过将Corsair ASIC与NVIDIA的产品线结合使用,Parasail正在采用一种异构推理方法,旨在优化工作负载的每个阶段。

相关内容

热门资讯

最高千万元资助创新药!欧美同学... 7月8日,欧美同学会第五届“双创”大赛生物医药产业赛区大湾区推介会暨第二届粤港澳大湾区青创嘉年华在广...
视频丨日本市民团体举行集会 呼... 今年7月7日是“七七事变”89周年,也是全民族抗战爆发89周年纪念日。日本多个市民团体7日在埼玉县举...
坚决贯彻落实习近平总书记重要指... 近日,广西、湖北、甘肃等地因降雨大风天气,接连发生水库溃坝、山体滑坡等灾情,造成重大人员伤亡和经济损...
【好评中国】河声丨热浪催热“夏... 酷暑席卷大地,消费市场却迎来一片火热。地下溶洞避暑、山野溯溪漂流、海河岸边夜市流连、演唱会全城沸腾,...
视频丨多地遭遇极端天气 各地各... 近日,极端天气影响广西、湖北、甘肃等地,各地各部门全力组织抢险救援、伤员救治、群众安置等工作,落实落...
雄安空天信息产业链加速成型成势 造一颗卫星需要多久?在传统产线上要7天。而在河北雄安新区,答案是约30个小时。近日,经济日报记者随“...
汛期服务台|暴雨引发洪水和地质... 央视网消息:主汛期,我国南北方均有多雨区,暴雨来得急、雨量大,容易引发城市内涝、山洪、滑坡、泥石流等...
列国鉴|记者观察:美国如何靠霸... 新华社纽约7月7日电(记者杨士龙)美国的战争筹资模式,本质上是利用海外军事基地与世界银行等建构金融霸...