业界最大规模!首套1024卡华为昇腾950液冷超节点正式点亮

快科技
 来自河南

快科技10月15日消息,今日,首套1024卡昇腾Atlas 950 SuperPoD液冷超节点正式点亮,同步完成对阶跃星辰Step 5 Preview大模型的0Day适配,这是业界最大规模超节点产品的首次落地部署。

这套超节点基于灵衢高速互联架构与超节点技术体系打造,单集群集成1024张昇腾NPU加速卡,采用计算柜与互联柜全液冷散热设计,可提供1 EFLOPS FP8、2 EFLOPS FP4精度的澎湃算力,专为万亿参数大模型的高并发推理与训练场景设计。

业界最大规模!首套1024卡华为昇腾950液冷超节点正式点亮

核心技术层面,它具备256TB全局统一内存编址能力,NPU卡间互联带宽达TB级,端到端通信时延低至3μs。

依托灵衢互联架构,1024张卡可实现直接互访,无需复杂的协议转换与交换机中转,彻底突破传统集群的通信瓶颈,整套集群逻辑上可等效为“一台超级计算机”,算力随规模扩展呈现近乎线性增长。

业界最大规模!首套1024卡华为昇腾950液冷超节点正式点亮

配合Step 5 Preview大模型的开源,昇腾基于vLLM推理引擎同步完成0Day适配,针对模型的稀疏MoE架构、长上下文特性,从算子融合、通信优化、框架调度三个层面完成全栈软硬协同优化,充分释放1024卡集群的算力潜力,推理性能追平海外先进算力水平。

首套1024卡液冷超节点的落地,完善了昇腾在大模型推理端的高密度算力布局,可为万亿参数大模型、百万Token长上下文、多模态智能体等前沿AI场景提供稳定、高效的自主算力支撑,也为国产大模型产业打造了自主可控的高密度算力底座。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:建嘉

“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。

Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

独家原创
财经信源
科技精选
热点新闻