消息称Meta与Nvidia探索将GPU核心集成至HBM，直击AI能效瓶颈

据韩媒报道称，Meta和Nvidia正在探索将GPU核心集成到HBM中的可能性。具体而言，他们正在与SK海力士和三星电子探讨合作，将GPU核心嵌入到位于HBM底部的基片中。

目前，HBM底部的基片负责内存与外部环境之间的通信。 HBM4的一个进步在于其内部集成了“控制器”。大型科技公司试图通过添加能够控制内存的半导体来提升性能和效率。HBM4 计划于明年开始全面量产。

集成 GPU 核心被视为一项比HBM4控制器更先进的技术。在 GPU 和 CPU 中，核心是能够独立进行计算的基本单元。例如，四核 GPU 意味着有四个核心可以进行计算，核心越多，计算性能越好。将核心放置在HBM上，旨在将之前集中在GPU上的计算功能卸载到内存中，从而减少数据传输和 GPU 本身的负担。

业界人士称，在人工智能计算中，能效与速度同等重要。缩短内存和计算单元之间的物理距离可以降低数据传输延迟和功耗。

然而，技术挑战依然存在。由于硅通孔 (TSV) 工艺的限制，HBM 基片上用于容纳 GPU 核心的空间非常有限。电源供应和散热也是关键问题。GPU计算核心功耗高、发热量大，散热管理成为瓶颈。