美光率先出样256GB SOCAMM2内存

厂商动态 网络 QIN 2026-03-04 10:13

美光近日在业界率先出样单模组256GB的SOCAMM2内存条,这是当前全球容量最高的服务器用低功耗DRAM(LPDRAM)模组,专为AI数据中心和高性能计算应用设计。

该产品采用全球首个单芯片32Gb LPDDR5x DRAM Die,容量相比前代192GB模组增加三分之一。借助该模组,8通道服务器CPU单颗内存容量可达2TB,能够处理更大的上下文窗口和复杂的推理工作负载,满足AI大模型对内存容量和带宽的严苛需求。

在功耗和空间占用方面,SOCAMM2展现出显著优势:功耗仅为传统RDIMM的三分之一,物理占用面积也仅为三分之一,有效提升了机架密度并降低了总体拥有成本。模块尺寸为14x90mm,支持液体冷却服务器架构,兼具可维护性和可扩展性。

性能表现上,美光内部测试显示,在统一内存架构中用于KV缓存卸载时,256GB SOCAMM2可将长上下文大语言模型推理的首个令牌生成时间提升2.3倍以上(测试使用Llama3 70B模型,上下文长度50万,16并发用户)。在独立CPU应用中,LPDRAM在高性能计算工作负载下的每瓦性能是主流内存模组的三倍以上。

推荐:电脑用的少,手机扫一扫,资讯快一步!

扫码关注我们

简讯快报

更多