编辑:Andy 发布:2024-08-06 14:49
NEO Semiconductor宣布开发其3D X-AI芯片技术,旨在通过在 3D DRAM 中实现 AI 处理来取代高带宽存储器 (HBM) 中的现有 DRAM 芯片,以解决数据总线瓶颈问题。3D X-AI 可以减少 AI 工作负载期间 HBM 和 GPU 之间传输的大量数据。
采用NEO 3D X-AI 技术的 AI 芯片可以实现:
100X性能加速:包含8,000个神经元电路,可在3D内存中执行AI处理。
降低99%功耗:最大程度减少将数据传输到GPU进行计算的要求,从而降低数据总线的功耗和发热量。
8 倍内存密度:包含 300 个内存层,允许 HBM 存储更大的 AI 模型。
单个3D X-AI芯片包含300层3D DRAM单元,容量为128GB,以及一层包含8,000 个神经元的神经电路。据 NEO 估计,每个芯片可支持高达 10 TB/s 的 AI 处理吞吐量。使用 12 个 3D X-AI 芯片与 HBM 封装堆叠可实现 120 TB/s 的处理吞吐量,从而将性能提高 100 倍。
NEO Semiconductor 创始人兼首席执行官 Andy Hsu 表示:“目前的 AI 芯片由于架构和技术效率低下而浪费了大量性能和功耗。目前的 AI 芯片架构将数据存储在 HBM 中,并依靠 GPU 执行所有计算。这种分离的数据存储和数据处理架构使数据总线成为不可避免的性能瓶颈。通过数据总线传输大量数据会导致性能受限和功耗非常高。3D X-AI 可以在每个 HBM 芯片中执行 AI 处理。这可以大大减少 HBM 和 GPU 之间传输的数据,从而提高性能并大幅降低功耗。”
存储原厂 |
三星电子 | 65900 | KRW | -0.15% |
SK海力士 | 266000 | KRW | -1.30% |
铠侠 | 2457 | JPY | -4.25% |
美光科技 | 111.260 | USD | -0.42% |
西部数据 | 68.820 | USD | -0.29% |
闪迪 | 42.480 | USD | +1.00% |
南亚科技 | 43.25 | TWD | +0.58% |
华邦电子 | 17.45 | TWD | +0.58% |
主控厂商 |
群联电子 | 521 | TWD | -0.38% |
慧荣科技 | 72.800 | USD | -1.41% |
联芸科技 | 43.04 | CNY | +2.33% |
点序 | 52.8 | TWD | -1.12% |
品牌/模组 |
江波龙 | 87.20 | CNY | +1.64% |
希捷科技 | 150.890 | USD | -1.20% |
宜鼎国际 | 225.0 | TWD | -0.44% |
创见资讯 | 89.9 | TWD | +0.33% |
威刚科技 | 90.9 | TWD | -0.87% |
世迈科技 | 25.160 | USD | +1.04% |
朗科科技 | 24.89 | CNY | +2.01% |
佰维存储 | 64.78 | CNY | +0.43% |
德明利 | 87.30 | CNY | +3.69% |
大为股份 | 17.34 | CNY | -0.86% |
封测厂商 |
华泰电子 | 38.90 | TWD | -1.52% |
力成 | 140.0 | TWD | +0.72% |
长电科技 | 34.82 | CNY | +0.35% |
日月光 | 153.5 | TWD | -1.29% |
通富微电 | 26.57 | CNY | +0.72% |
华天科技 | 10.39 | CNY | +0.87% |
深圳市闪存市场资讯有限公司 客服邮箱:Service@ChinaFlashMarket.com
CFM闪存市场(ChinaFlashMarket) 版权所有 Copyright©2008-2023 粤ICP备08133127号-2