权威的存储市场资讯平台English

NEO半导体推出3D X-AI芯片:在3D DRAM中执行AI处理

编辑:Andy 发布:2024-08-06 14:49

NEO Semiconductor宣布开发其3D X-AI芯片技术,旨在通过在 3D DRAM 中实现 AI 处理来取代高带宽存储器 (HBM) 中的现有 DRAM 芯片,以解决数据总线瓶颈问题。3D X-AI 可以减少 AI 工作负载期间 HBM 和 GPU 之间传输的大量数据。

采用NEO 3D X-AI 技术的 AI 芯片可以实现:

100X性能加速:包含8,000个神经元电路,可在3D内存中执行AI处理。

降低99%功耗:最大程度减少将数据传输到GPU进行计算的要求,从而降低数据总线的功耗和发热量。

8 倍内存密度:包含 300 个内存层,允许 HBM 存储更大的 AI 模型。

单个3D X-AI芯片包含300层3D DRAM单元,容量为128GB,以及一层包含8,000 个神经元的神经电路。据 NEO 估计,每个芯片可支持高达 10 TB/s 的 AI 处理吞吐量。使用 12 个 3D X-AI 芯片与 HBM 封装堆叠可实现 120 TB/s 的处理吞吐量,从而将性能提高 100 倍。

NEO Semiconductor 创始人兼首席执行官 Andy Hsu 表示:“目前的 AI 芯片由于架构和技术效率低下而浪费了大量性能和功耗。目前的 AI 芯片架构将数据存储在 HBM 中,并依靠 GPU 执行所有计算。这种分离的数据存储和数据处理架构使数据总线成为不可避免的性能瓶颈。通过数据总线传输大量数据会导致性能受限和功耗非常高。3D X-AI 可以在每个 HBM 芯片中执行 AI 处理。这可以大大减少 HBM 和 GPU 之间传输的数据,从而提高性能并大幅降低功耗。”

推荐:电脑用的少,手机扫一扫,资讯快一步!

扫码关注我们

本文标签:

股市快讯 更新于: 07-26 09:10,数据存在延时

存储原厂
三星电子65900KRW-0.15%
SK海力士266000KRW-1.30%
铠侠2457JPY-4.25%
美光科技111.260USD-0.42%
西部数据68.820USD-0.29%
闪迪42.480USD+1.00%
南亚科技43.25TWD+0.58%
华邦电子17.45TWD+0.58%
主控厂商
群联电子521TWD-0.38%
慧荣科技72.800USD-1.41%
联芸科技43.04CNY+2.33%
点序52.8TWD-1.12%
品牌/模组
江波龙87.20CNY+1.64%
希捷科技150.890USD-1.20%
宜鼎国际225.0TWD-0.44%
创见资讯89.9TWD+0.33%
威刚科技90.9TWD-0.87%
世迈科技25.160USD+1.04%
朗科科技24.89CNY+2.01%
佰维存储64.78CNY+0.43%
德明利87.30CNY+3.69%
大为股份17.34CNY-0.86%
封测厂商
华泰电子38.90TWD-1.52%
力成140.0TWD+0.72%
长电科技34.82CNY+0.35%
日月光153.5TWD-1.29%
通富微电26.57CNY+0.72%
华天科技10.39CNY+0.87%