7月8日,AI芯片巨头NVIDIA(英伟达)与ASIC初创企业d-Matrix宣布合作,共同打造混合型混合算力基础设施,旨在支持AI模型的高效运行。此次合作的核心产品是Neocloud企业Parasail,它通过结合NVIDIA的Hopper/Blackwell GPU与d-Matrix的Corsair ASIC,实现了Token生成速率的10倍提升。
d-Matrix的Corsair ASIC采用D-IMC(数字存内计算)架构,该架构将计算单元与充足的SRAM集成在同一芯片上,有效降低了数据传输的开销。此外,通过片外LPDDR5技术,Corsair ASIC能够进一步扩展内存容量。在AI推理工作负载中,Parasail利用NVIDIA GPU处理前端的计算密集型预填充任务,而d-Matrix的Corsair ASIC则因其大容量SRAM,非常适合处理后端的延迟敏感型解码任务。
d-Matrix创始人兼首席执行官Sid Sheth强调,Parasail的实践验证了他们从一开始就坚信的观点:推理的未来是异构的。GPU和专用推理加速器不是竞争对手,而是可以相辅相成的伙伴。通过将Corsair ASIC与NVIDIA的产品线结合使用,Parasail正在采用一种异构推理方法,旨在优化工作负载的每个阶段。

