12nm超越4nm GPU？IBM已开发出整合存储架构的NorthPole AI芯片

IBM日前宣布开发出NorthPole AI芯片，号称具备来自人类大脑的运作，推论性能据称超越4nm制程的GPU，适用于边缘运算等领域。

IBM 指出，在传统的半导体产业中，芯片主要遵循相同的基本架构，处理单元与存储数据是相互分开的。这样的架构虽然简化了芯片设计模式，却也因传输速度赶不上处理速度而出现了von Neumann 瓶颈。

IBM目前推出的NorthPole芯片，相对于传统芯片最大的不同点在于芯片内置存储的架构，在没有von Neumann瓶颈的情况下，NorthPole芯片的AI推论能力优于市面上竞争对手。因此， NorthPole芯片虽然采用12nm制程技术，但能在800 mm² 上放置了220 亿个电晶体，拥有256 个核心，于8-bit 环境下每个核心的运算周期可执行2048 次操作，若是在4-bit 或2-bit 环境下，则执行次数则可翻倍。

在具体架构上，NorthPole芯片号称模糊了运算与存储间的界线，这让NorthPole芯片容易整合到系统中，且明显减少了搭载芯片的设备负荷。这情况让NorthPole 芯片在ResNet-50 模型上测试后，结果相较于同样采用12nm制程技术的竞争对手GPU 产品来说，NorthPole芯片的每秒辨识能效是对手的25倍，而且不管是在延迟或运算空间的要求上，表现都优于市面上所有主流架构，甚至凌驾基于4nm制程的GPU。

不过，NorthPole 的优势，同时也是它的弱点所在。因为NorthPole 只能轻松读取整合在芯片中的本地数据资讯，读取外界数据时，便没有计算速度优势。虽然NorthPole 无法用来进行类似GPT-4 的训练，但应该可满足许多企业所需模型的推论要求。

目前IBM 仍在研究NorthPole芯片的适用领域，研究人员发现，许多需要即时处理大量数据的边缘计算领域将可能非常适合采用NorthPole芯片，例如自动驾驶、遥感通信等领域，NorthPole 均是其擅长的地方。