美光 http://www.micron.com/

美光宣布推出 192GB SOCAMM2客户样品，以促进低功耗内存在人工智能数据中心的更广泛应用。SOCAMM2 扩展了美光科技首款 LPDRAM SOCAMM的功能，在相同的紧凑尺寸下提供 50% 的容量提升。增加的容量可将实时推理工作负载的首次令牌时间 (TTFT) 显著缩短 80% 以上。

192GB SOCAMM2 采用美光最先进的 1-gamma DRAM 制程技术，将能效提升 20% 以上，进一步优化大型数据中心集群的功耗设计。这些节能措施在全机架 AI 安装中尤为显著，因为这些安装可能包含超过 40TB 的 CPU 连接低功耗 DRAM 主内存。SOCAMM2的模块化设计提高了可维护性，并为未来的容量扩展奠定了基础。

基于与 NVIDIA 五年的合作，美光率先在数据中心使用低功耗服务器内存。SOCAMM2 将 LPDDR5X 的固有优势：超低功耗和高带宽，应用于 AI 系统的主内存。SOCAMM2 旨在满足海量场景 AI 平台不断变化的需求，提供 AI 工作负载所需的高数据吞吐量，同时实现更高水平的能效，为 AI 训练和推理系统树立了新标准。这些优势的结合将使 SOCAMM2 成为未来几年尖端 AI 平台的关键内存解决方案。