编辑:AVA 发布:2020-09-17 10:18
据媒体报道,高通2019年发布的Cloud AI 100 推理芯片平台现已投产并开始向客户出样,预计2021上半年可实现商业发货。这是高通首次涉足数据中心 AI 推理加速器业务、并将之推向企业市场。
该芯片包含了 16 组 AI 内核,和达成 400 TOPS 的 INT8 推理吞吐量。辅以 4 路 @ 64-bit 的 LPDDR4X-4200(2100MHz)的内存控制器,每个控制器管着 4 个 16-bit 通道,总系统带宽达 134 GB/s 。高通为 Cloud AI 100 平台配备了 144MB 的片上 SRAM 高速缓存,以达成尽可能高的存储流量。
精度方面,Cloud AI 100 的架构体系支持 INT8 / INT16 和 FP16 / FP32 精度,能够带来足够的灵活性。高通还提供了一组 SDK,以便为各项行业标准提供交换格式和框架支持。
据了解,高通为商业化部署提供了三种不同的封装形式,包括成熟的 PCIe 4.0 x8 接口(在 75W TDP 上实现 400 TOPS 算力)、以及 DM.2 和 DM.2e 接口(25W / 15W TDP)。
DM.2 的外形类似于彼此相邻的两个 M.2 连接器,在企业市场比较受欢迎。DM.2e 则是体型更小,封装功耗也更低。
从架构角度来看,借鉴了高通在骁龙移动 SoC 上部署的神经处理单元(NPU)的丰富经验,但仍基于一种完全针对企业工作负载而优化的独特架构设计。
与当前的通用计算硬件(CPU / GPU / FPGA)相比,专用型 AI 设计的最大优势,在于能够实现“传统”平台难以企及的更高的性能和能效目标。
性能数据方面,高通拿目前业内常用的解决方案进行了对比,包括英特尔 Goya 和英伟达 T4 推理加速器,每瓦每秒的推理能力为 ResNet-50 。
据说 Cloud AI 100 在每瓦性能上较竞品实现了重大飞越,且高通在另一幅图表中展示了一个相对公平的比较。
据悉Cloud AI 100甚至能够在 75W 的 PCIe 外形尺寸内击败英伟达 Ampere 架构的 250W A100 加速器。且在功耗降低 25% 的情况下,性能还较英特尔 Goya 加速器翻番。
高通承认,在工作负载的内存空间占用超过片上 SRAM 的情况下,该架构的性能将有所不同。但对于目标客户来说,这样的平衡设计,仍是有意为之。
高通目前正在向客户提供 Cloud AI 100 推理加速器的样品,主要部署目标为工业和商业领域中的边缘推理工作负载。
为推动生态系统和为软件开发提供支持,高通还推出了新的 Cloud Edge AI 100 开发套件,其中包括了一个集成该加速器的小型计算设备、骁龙 865 SoC、以及用于蜂窝连接的 X55 5G 调制解调器。
存储原厂 |
三星电子 | 53900 | KRW | -1.46% |
SK海力士 | 202500 | KRW | -0.25% |
铠侠 | 2072 | JPY | -0.24% |
美光科技 | 96.300 | USD | +3.14% |
西部数据 | 51.700 | USD | +3.03% |
闪迪 | 38.110 | USD | +2.23% |
南亚科技 | 41.95 | TWD | -1.99% |
华邦电子 | 17.35 | TWD | -0.57% |
主控厂商 |
群联电子 | 491.5 | TWD | -0.81% |
慧荣科技 | 64.250 | USD | +0.86% |
联芸科技 | 38.31 | CNY | -2.52% |
点序 | 56.7 | TWD | -1.90% |
品牌/模组 |
江波龙 | 71.67 | CNY | -1.90% |
希捷科技 | 116.570 | USD | +3.40% |
宜鼎国际 | 231.5 | TWD | -2.53% |
创见资讯 | 101.5 | TWD | -0.98% |
威刚科技 | 91.9 | TWD | +0.11% |
世迈科技 | 18.480 | USD | +4.76% |
朗科科技 | 22.41 | CNY | -1.45% |
佰维存储 | 56.50 | CNY | -2.57% |
德明利 | 108.21 | CNY | -3.38% |
大为股份 | 14.19 | CNY | -0.98% |
封测厂商 |
华泰电子 | 36.65 | TWD | -3.04% |
力成 | 116.5 | TWD | -1.69% |
长电科技 | 32.35 | CNY | -1.34% |
日月光 | 141.5 | TWD | -1.74% |
通富微电 | 23.57 | CNY | -1.50% |
华天科技 | 8.77 | CNY | -1.68% |
深圳市闪存市场资讯有限公司 客服邮箱:Service@ChinaFlashMarket.com
CFM闪存市场(ChinaFlashMarket) 版权所有 Copyright©2008-2023 粤ICP备08133127号-2