7月20日,芯展速(GenStorAIGE)在WAIC2026上展出了其AI90软硬件一体化AI推理加速方案。该方案通过将高性能SSD纳入GPU显存体系,实现了KVCache卸载到更大容量的固态硬盘上,形成了HBM+DRAM+SSD三级存储体系。这一创新技术显著提升了AI推理性能,将首Token延迟从秒级降低至亚秒级,提速达到50倍,同时吞吐量提升5.1倍,显存节省39%。
AI90方案结合智能P2P多卡互联技术,能够使8卡NVIDIA GeForce RTX 5090集群推理加速达到5.8倍,并支持128K+上下文。为应对KVCache卸载带来的高写入负载,芯展速还推出了PT200ZA ISSD。这款SSD基于pSLC闪存介质,采用PCIe Gen5接口,DWPD(每日全盘写入次数)最高达100,顺序读取速度达到14.8GB/s,随机读取3100K IOPS,读取时延为54μs,写入时延为10μs。

