5月24日消息，据报道，为解决长期困扰AI芯片的“内存墙”问题，全球内存与封装产业正评估一种全新架构：将GPU与HBM拆分开来独立封装，再通过光学互联技术桥接数据传输。

一位韩国存储厂商研究人员透露，当前业内扩展HBM带宽与容量的努力正遭遇结构性瓶颈，公司正在与客户讨论通过光学互联突破GPU芯片“海岸线”限制，以搭载更多HBM。

过去，HBM始终紧贴GPU进行2.5D封装以最小化数据传输延迟。但GPU芯片的边缘长度，已逼近物理极限，周边空间再无法容纳更多HBM。

与此同时，垂直堆叠路线同样逼近极限。HBM堆叠层数从12层、16层向20层以上迈进，工艺难度呈指数级上升。

需要指出的是，新架构将HBM安置在距GPU数厘米位置，围绕GPU环形排列或在电路板中央设独立HBM区域。

由于光信号传输速度远超电信号，物理距离的增加不会造成明显延迟损失。

光学互联方案已有实际技术验证。在2025年Hot Chips大会上，Celestial AI已展示其光子互联模块，可围绕GPU封装实现光学I/O，将周边空间释放给HBM。

一位全球OSAT厂商高管表示，光学互联已是明确趋势，技术落地将先从机架间、服务器间开始，再扩展至单板内部芯片间互联，但芯片间光互联的到来可能不会太遥远。

《夸克》非常好用的免费AI浏览器

下载APP查看