三星公布LPDDR5X-PIM性能,AI推理速度提升2倍

存储器 网络 Andy 2026-08-26 17:43

据韩媒报道,三星电子日前公布面向智能手机、AI PC等端侧AI设备的LPDDR5X-PIM架构及详细性能指标。该技术可在内存内部直接完成部分运算处理,无需将数据反复传输至处理器。

什么是PIM

PIM是一种在内存中增加运算功能的技术。传统方式下,存储在内存中的数据需要先传输至CPU或GPU进行计算,再将结果写回内存。LPDDR5X-PIM将部分计算直接在内存内部完成,通过减少数据在内存与处理器之间往返传输的频次,实现AI处理速度的提升和功耗的降低。

LPDDR5X-PIM 的 PIM 带宽高达614GB/s,容量为16GB。相比之下,传统 DRAM 的带宽仅为 76.8GB/s,PIM 技术的应用使带宽提升了八倍。


来源:公开信息

三星使用Meta的拥有80亿参数模型"Llama 3.1"进行测试,结果显示:

处理时间:从传统LPDDR5X的12.3秒缩短至5.4秒,提速约2.3倍;

每秒Token处理量(TPS):从27个提升至81.3个,是现有产品的3倍。

从HBM到LPDDR,PIM适用范围扩大

三星此前曾于2021年推出将PIM技术应用于高带宽内存(HBM)的"HBM-PIM"。此次则将PIM的适用范围扩展至主要用于智能手机和PC的低功耗DRAM——LPDDR。

近年来,AI模型正朝着更小、更高效的方向演进,在智能手机或PC本地运行AI的需求日益增长,低功耗内存的重要性也随之提升。与以数据中心为核心的HBM不同,LPDDR-PIM兼具高带宽与低功耗两大优势,聚焦于对能效要求极高的端侧AI场景。

LPDDR5X-PIM 预计将应用于服务器和移动设备。尤其被视为面向边缘 AI 市场的技术,可以绕过中央云,实现设备端 AI。通过利用 PIM 技术,在规模不大的服务器上,也能以低功耗运行高性能 AI。

兼容性与生态布局

在兼容性方面,LPDDR5X-PIM采用与现有LPDDR5X相同的封装和内存控制方式,无需额外的内存控制器即可直接应用于现有系统。通过按照JEDEC制定的封装标准开发产品,使用现有LPDDR5的用户可以轻松切换到LPDDR5X-PIM。

三星正通过提供软件开发工具包(SDK)和模拟器,积极构建PIM生态系统。同时,下一代"LPDDR6-PIM"的标准化工作也已启动。

消息称,SK海力士和美光计划从下一代LPDDR6开始推出各自的PIM技术,端侧AI内存赛道竞争正在升温。

推荐:电脑用的少,手机扫一扫,资讯快一步!

扫码关注我们

简讯快报

更多
⊙16小时前 15:43

因LPDDR4X市场需求持续萎靡,存储厂商实际出货遇阻,导致对资源的采购节奏也有所减缓,在存储厂商资源购买力减弱的拖累下,近期国产LPDDR4X Wafer及颗粒价格均出现下滑,尤其8GB LPDDR4X资源价格自上月以来已连续出现下跌。从成本端来看,资源价格回落虽有助于适度降低采购成本,但当前时间逼近季末后半段,终端客户普遍管控库存,整体备货需求十分低迷。本周4GB/8GB  LPDDR4X价格小幅下调。eMMC方面,10月份以来,个别存储厂商持续激进杀价,部分供应链包括代理、经销商、贸易商不计亏损也被动跟跌以加快周转,但下游客户普遍处于库存高企的状态,甚至个别客户作为昔日的采购方为降低库存水位、疏通现金流,反向通过渠道市场释放此前囤积的库存。随着低价eMMC货源不断增多,贸易价仍在持续下探且尚未止跌,存储厂商同容量eMMC产品官价与贸易价的差距进一步加大,本周多数eMMC产品价格继续下修,相应的,集成式eMCP、uMCP价格跟随调整。

LPDDR:LPDDR4X 64Gb 跌 2.22% 至 $88.00,LPDDR4X 32Gb 跌 3.33% 至 $58.00;

eMMC:eMMC 8GB 5.1 跌 3.03% 至 $16.00,eMMC 16GB 5.1 跌 2.86% 至 $17.00,eMMC 32GB 5.1 跌 2.78% 至 $17.50,eMMC 64GB 5.1 跌 2.78% 至 $17.50,eMMC 128GB 5.1 跌 7.14% 至 $26.00,eMMC 256GB 5.1 跌 7.62% 至 $48.50;

eMCP:eMCP(eMMC + LPDDR4X)64GB+32Gb 跌 8.48% 至 $75.50,eMCP(eMMC + LPDDR4X)128GB+32Gb 跌 5.62% 至 $84.00,eMCP(eMMC + LPDDR4X)128GB+48Gb 跌 5.71% 至 $99.00;

uMCP:uMCP(LPDDR4X + UFS2.2)6GB+128GB 跌 0.93% 至 $106.00,uMCP(LPDDR4X + UFS2.2)8GB+128GB 跌 6.20% 至 $121.00,uMCP(LPDDR4X + UFS2.2)8GB+256GB 跌 5.13% 至 $148.00。