SK海力士H3混合存储架构：GPU性能提升2.69倍，成本效益显著
创始人
2026-02-12 12:06:42
0次
2月12日，SK海力士在其发布的论文中介绍了一种新的H3混合存储架构，该架构结合了HBM高带宽内存和HBF高带宽闪存，旨在发挥两者的优势并避免各自的不足。H3架构将HBF作为HBM的二级扩展，其中HBF负责存储只读数据，而HBM则处理其他数据。
在H3架构的具体结构上，GPU与HBM的BaseDie通过中介层互联，HBMBaseDie内置了HBM控制器和与HBF系统配套的“延迟隐藏缓冲”。HBMBaseDie再通过中介层与HBFBaseDie连接，后者包含HBF堆栈的控制器。这种设计使得H3能够存储大量只读数据，特别适合用于LLM推理工作负载环境，尤其是那些采用共享预计算键值缓存的用例。
仿真测试结果显示，与仅使用HBM的传统系统相比，配备H3的GPU在单位功耗的吞吐量上提高了2.69倍，这表明H3架构在处理具有海量只读数据的LLM推理方面具有显著的成本效益。
相关内容
热门资讯
字节跳动发布Seedance2...
今日，字节跳动宣布新一代视频创作模型Seedance2.0正式发布。该模型采用统一的多模态音视频联合...
大回暖！春节前广东气温攀升，趁...
昨天（2月11日），冷空气影响减弱，广东的气温继续往上走，大部分市县普遍都在10℃以上。昨天上午10...
豆包App新功能：Seedan...
2月12日，豆包公司宣布其视频生成模型Seedance2.0正式接入豆包App、电脑端和网页版。用户...
字节跳动即梦AI升级：视频生成...
2月12日，字节跳动旗下即梦AI宣布接入最新视频生成模型Seedance2.0与图片生成模型Seed...
AI助力文远知行自动驾驶出租车...
2月12日，文远知行宣布计划将自动驾驶出租车规模至少扩大一倍。公司创始人兼CEO韩旭指出，人工智能（...
广州花都中轴线将添177米新地...
2月10日上午，由广州科地城标经济发展有限公司打造的花都CBD中轴线地标级城市综合体项目——科地城标...
高市“营造环境”论居心险恶
新华社北京2月11日电 题：高市“营造环境”论居心险恶新华社记者近日，日本首相高市早苗在电视节目中声...
AI春节消费潮：千问免单活动引...
今日，阿里千问发布的“春节30亿大免单”活动数据显示，过去6天，用户说了41亿次“千问帮我”，AI完...
三星LPDDR6X内存样品曝光...
2月12日，据韩媒thebell报道，三星电子已向高通提供了LPDDR6X内存样品。这一进展标志着高...
SK海力士H3混合存储架构：G...
2月12日，SK海力士在其发布的论文中介绍了一种新的H3混合存储架构，该架构结合了HBM高带宽内存和...