HBM之父金正浩:AI的本质是内存,GPU真正工作的时间只有10%

存储器 网络 M 2026-07-06 18:17

被誉为“HBM之父”的韩国科学技术院(KAIST)金正浩教授近日接受专访时抛出颠覆性观点:AI的本质是内存,而非GPU。他指出,当前AI算力竞赛中存在一个结构性矛盾, GPU的“闲置”时间远超外界想象。

GPU的“等待”困局:为何100万个GPU只有10%时间在真正工作?

金正浩教授在访谈中给出了一个令人震惊的数字:“即使安装了 100 万个 GPU,它们实际工作时间也只有 10%。”他解释,每当ChatGPT输出一个词,系统就必须反复从HBM读取数据、计算、再写回, “读和写几乎占掉了全部时间,GPU就在旁边干等着” 。即便通过算法优化,GPU利用率也很难突破30%的瓶颈。这正是他多年坚持的核心判断的现实依据:“AI等于内存(AI = Memory)。”

金正浩认为,GPU的技术性成长已接近极限,GPU想提升性能只能扩大芯片面积,但散热问题使其无法像内存一样垂直堆叠,陷入了“外通死局”。从训练转向推理时代,内存的重要性正被重新定价。推理时代,更重要的是往AI里塞进多少数据,而决定这一点的是内存。他补充,人工智能能力的竞争最终取决于记忆容量,谷歌 Gemini、OpenAI 和 Anthropico Claude,谁更强大将取决于内存容量。

HBM之后:HBF与HBS开启内存“摩天大楼”时代

金正浩将HBM的价值归结为容量与带宽两大核心。内存需求正以每年翻倍的速度增长,而HBM通过垂直堆叠和拓宽数据“车道”来满足需求。

他详细阐述了接下来的技术发展方向。一是HBF(High Bandwidth Flash) ,即把NAND闪存像HBM一样垂直堆叠,用稍慢但容量巨大、成本更低的内存来处理“冷数据”。他明确提出,现在是HBM的时代,但10年后,NAND闪存和HBF的市场需求将超过HBM。

二是HBS(High Bandwidth SRAM) 。他设想将整个12英寸晶圆制成SRAM,并垂直堆叠12-16层,从而将容量从100GB提高到1600GB。这样一来,速度就能提高 1000 倍,容量也足以满足需求。

金正浩将最终的AI芯片设想为一座“百层3D大楼”:未来AI计算机的3D半导体架构将是HBM、HBF和HBS各自构成多层结构,GPU位于顶部用于散热。

范式转移:从“内存周期”到“内存定价权”

金正浩专门谈到了HBM4带来的供需结构变化。过去内存是标准化产品,买家主导价格。但从HBM4开始,由于需要根据英伟达、谷歌、AMD等客户的架构定制设计,内存厂商必须在研发之初就拿到客户的数量承诺(LTA)才会启动开发。AI企业迫切需要高性能HBM,供应价格持续上涨,将进一步提升存储厂商的系统地位。

他将这一趋势延伸至终端,预测未来AI PC和AI手机的价格将由内存成本主导。随着Agentic AI和Physical AI的到来,内存使用量可能再暴增1000倍,届时将进入需要“超高性能内存”(Ultra HBM)的时代。

推荐:电脑用的少,手机扫一扫,资讯快一步!

扫码关注我们

标签:

简讯快报

更多