3月3日，美光科技宣布推出业界首款单模组256GB的SOCAMM2内存条，该产品采用了全球首个单芯片32Gb LPDDR5x DRAM Die。这一技术突破使得8通道1DPC的服务器处理器能够将内存容量扩展至单CPU 2TB，相较于之前的192GB模组系统，能够处理更大的上下文窗口和更复杂的推理工作负载。

美光的256GB SOCAMM2内存条不仅提供了巨大的存储容量和带宽，而且其功耗低于传统服务器内存。英伟达数据中心CPU产品负责人Ian Finder强调，先进的AI基础设施需要在每个层面上进行优化，以提高性能和效率，满足AI推理工作负载的严苛需求。美光的这一创新正在推动新一代AI CPU的发展，为AI基础设施的性能和效率带来显著提升。