SK海力士H3混合存储架构：GPU性能提升2.69倍，成本效益显著
创始人
2026-02-12 12:06:42
0次
2月12日，SK海力士在其发布的论文中介绍了一种新的H3混合存储架构，该架构结合了HBM高带宽内存和HBF高带宽闪存，旨在发挥两者的优势并避免各自的不足。H3架构将HBF作为HBM的二级扩展，其中HBF负责存储只读数据，而HBM则处理其他数据。
在H3架构的具体结构上，GPU与HBM的BaseDie通过中介层互联，HBMBaseDie内置了HBM控制器和与HBF系统配套的“延迟隐藏缓冲”。HBMBaseDie再通过中介层与HBFBaseDie连接，后者包含HBF堆栈的控制器。这种设计使得H3能够存储大量只读数据，特别适合用于LLM推理工作负载环境，尤其是那些采用共享预计算键值缓存的用例。
仿真测试结果显示，与仅使用HBM的传统系统相比，配备H3的GPU在单位功耗的吞吐量上提高了2.69倍，这表明H3架构在处理具有海量只读数据的LLM推理方面具有显著的成本效益。
相关内容
热门资讯
本田或无限期搁置加拿大电动汽车...
5月6日，据《日经亚洲》报道，本田汽车正在与加拿大政府就其位于安大略省的电动汽车及配套电池工厂建设进...
“落水车语音助手“哪吒”坚守岗...
近日，贵州一位车主的车辆意外落水，在水中浸泡数小时。令人惊讶的是，车主尝试唤醒车载语音助手“哪吒”，...
宾利电动化战略大调整：裁撤75...
近日，宾利品牌在电动化战略上做出重大调整。新任CEO弗兰克指出，超豪华消费者对纯电车型的接受度不高，...
市场监管总局突破测控装备智能化...
5月6日，市场监管总局联合国内科技力量在装备系统智能化领域取得显著进展。研究团队运用自然语言处理和人...
丰田130亿建印度三厂，目标年...
5月6日，丰田汽车宣布在印度西部马哈拉施特拉邦投资约3000亿日元（约合130亿元人民币）新建三座整...
Rivian拟自产激光雷达，C...
近日，美国电动汽车制造商Rivian的CEO RJ·斯卡林奇透露，公司正在考虑自行生产激光雷达传感器...
华为鸿蒙系统升级：小艺帮记新增...
5月6日，华为鸿蒙HarmonyOS 6.1系统对“小艺帮记”功能进行了更新，新增身份验证和同步收藏...
疲劳驾驶酿大祸！男子信辅助驾驶...
5月5日，杭甬高速宁波方向发生一起因驾驶员过度信任辅助驾驶系统而引发的违规停车事件。一辆黑色SUV在...
小米SU7销量破8万！限时权益...
5月6日，小米汽车宣布新一代SU7上市48天以来，锁单量已突破8万台。为庆祝这一成绩，小米汽车推出限...
F1将迎V8引擎回归，2030...
5月6日，国际汽联（FIA）主席穆罕默德·本·苏拉耶姆在迈阿密大奖赛期间宣布，F1计划在2030年左...