美光研发边缘推理内存EIM:降低数据处理延迟 布局物理AI

驱动之家
 来自北京

快科技10月19日消息,美光正在推进面向物理AI的专用存储芯片——边缘推理内存(Edge Inference Memory,EIM)的研发。

美光高管表示,自动驾驶、人形机器人、增强现实与虚拟现实等物理AI市场正在迅速崛起,公司正与核心客户紧密沟通,共同推进适配这一新兴市场的产品研发。

EIM能够高速处理AI推理所需的数据,其架构是在逻辑芯片之上垂直堆叠低功耗内存(LPDDR)。这与在存储器内部执行计算的存内计算(PIM)属于不同概念:两者都部署在AI主芯片周边以提升数据处理效率,但PIM把计算单元集成在存储器内部,EIM的具体计算架构目前尚未公开。

EIM介于AI处理器与内存之间,主要用于降低数据处理延迟并提高系统带宽。美光尚未披露具体目标性能指标,正在推进将EIM集成至LPDDR6方案的技术研发,业内预计其量产时间将在2028年下半年。

现阶段人形机器人主要采用LPDDR等低功耗内存,而非高带宽内存(HBM)。与高度依赖HBM的数据中心不同,依赖电池供电的机器人对能效比要求更为严苛。

美光方面表示,目前机器人采用的AI模型参数量多在十亿至二十亿左右,对内存带宽的需求尚且有限;随着性能更强的视觉语言模型引入,仅凭LPDDR将难以为继,必然会向HBM架构演进。

美光研发边缘推理内存EIM:降低数据处理延迟 布局物理AI

“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。

Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

独家原创
财经信源
科技精选
热点新闻