SK海力士H3混合存储架构：GPU性能提升2.69倍，成本效益显著
创始人
2026-02-12 12:06:42
0次
2月12日，SK海力士在其发布的论文中介绍了一种新的H3混合存储架构，该架构结合了HBM高带宽内存和HBF高带宽闪存，旨在发挥两者的优势并避免各自的不足。H3架构将HBF作为HBM的二级扩展，其中HBF负责存储只读数据，而HBM则处理其他数据。
在H3架构的具体结构上，GPU与HBM的BaseDie通过中介层互联，HBMBaseDie内置了HBM控制器和与HBF系统配套的“延迟隐藏缓冲”。HBMBaseDie再通过中介层与HBFBaseDie连接，后者包含HBF堆栈的控制器。这种设计使得H3能够存储大量只读数据，特别适合用于LLM推理工作负载环境，尤其是那些采用共享预计算键值缓存的用例。
仿真测试结果显示，与仅使用HBM的传统系统相比，配备H3的GPU在单位功耗的吞吐量上提高了2.69倍，这表明H3架构在处理具有海量只读数据的LLM推理方面具有显著的成本效益。
相关内容
热门资讯
行进中国｜扎根大别山的“红色讲...
人民网“行进中国”河南调研采访团何家冲村民居整洁。人民网记者 戴泽鑫摄暑期信阳罗山县何家冲的何氏祠，...
【视频】无人车打开末端配送新空...
8月4日下午，佛山市南海区，圆通速递平洲北网点一片忙碌。快递员把扫描好的包裹一件件搬进一辆新石器无人...
广东河源23岁民警跳江救群众牺...
8月4日上午，在广东河源市殡仪馆大礼堂内，390人痛别因救落水群众牺牲的民警邱峻宇。记者了解到，这名...
广东省“千会结千镇”助力“百千...
8月4日，广东省“千会结千镇”助力“百千万工程”专项行动对接交流活动在汕尾市陆河县举办。省委社会工作...
万米高空吟诗品潮味！南航“诗韵...
8月4日，南航CZ3861揭阳潮汕—北京大兴“诗韵南航·食韵潮汕”主题航班正式启航。据悉，这是南航今...
粤港澳大湾区内地九市上半年用电...
文/羊城晚报全媒体记者 董鹏程 通讯员 黄雅熙 刘德欣 孙颖 程菊花8月5日，记者从南方电网获悉，2...
广东雷州通报“特殊教育学校教师...
近日，网传广东省雷州市特殊教育学校有关人员在教师招聘中存在违规行为，引发社会广泛关注。8月5日，广东...
视频丨联合国秘书长副发言人：加...
当地时间4日，联合国秘书长副发言人法尔汉·哈克在纽约联合国总部表示，目前加沙地带枪击及其他军事行动仍...
三大运营商叫停第三方互联网渠道...
中国电信、中国移动、中国联通近日发布公告，全面停止第三方互联网渠道的号卡办理业务，用户线上办卡只能通...
今年三伏天“超长待机” “山野...
溯溪、漂流目的地搜索热度月环比增长超175%羊城晚报全媒体记者 刘星彤 通讯员 饶思碧 今年三...