位置:首页 > 新闻资讯 > SK海力士研发H3混合存储架构 结合HBM与HBF优势提升AI推理能效

SK海力士研发H3混合存储架构 结合HBM与HBF优势提升AI推理能效

时间:2026-02-12  |  作者:  |  阅读:0

SK海力士近日发布论文提出H3混合存储架构,该架构结合了HBM和HBF两种存储介质的优势。HBF相比HBM具有更大容量但延迟更长、耐久性更差的特点。

在架构设计上,GPU通过中介层与HBM基础芯片连接,HBM基础芯片内置控制器和延迟隐藏缓冲,再通过中介层与HBF基础芯片相连。这种设计特别适合LLM推理工作负载,尤其是采用共享预计算键值缓存的场景。

仿真测试结果显示,与传统仅使用HBM的系统相比,H3混合架构在处理海量只读数据的LLM推理任务中展现出更好的成本效益。

来源:https://news.pconline.com.cn/2093/20936372.html
免责声明:文中图文均来自网络,如有侵权请联系删除,心愿游戏发布此文仅为传递信息,不代表心愿游戏认同其观点或证实其描述。

相关文章

更多

精选合集

更多

大家都在玩

热门话题

大家都在看

更多