AI基础设施迎来“光电融合”新竞速|WAIC观察

财联社
07-20 16:40 来自北京

image

财联社7月20日讯(记者 张校毓 实习记者 朱洺锐)AI基础设施正在迎来一场围绕“光电融合”的新竞速。

过去几年,行业更多关注模型规模、算法能力以及芯片性能。但随着大模型训练和推理需求持续增长,AI基础设施面临的问题正在发生变化:当算力集群从千卡迈向万卡,甚至更大规模时,决定系统效率的不再只是单颗芯片性能,而是海量计算单元之间能否高效协同。

在这一过程中,“光”正在成为新的关键变量。

此次WAIC期间,财联社记者也在现场观察到,带有“超节点”“超集群”等标识的展台前颇为热闹,其背后的硅光技术亦受到多方关注,含“光”量提升明显。与此同时,NPO被业内视为当前国产GPU构建超节点更务实的技术路线,CPO的商业化进程在加速推进,光计算也正在进入市场渗透期。

不过,产业界正在形成一个新的共识:光并非简单替代电,而是推动光与电深度融合。

业内人士分析认为,光电算力产业化需要的不仅是单点技术突破,更需要芯片、封装、制造、设备、算力平台以及应用生态协同推进,共同定义接口标准、共建测试平台、共拓真实应用场景。

含“光”量提升明显,NPO、CPO等商业化进程加速推进

财联社记者现场观察到,今年的WAIC较往年有一个新的变化:除了带有“超节点”“超集群”等标识的展台前颇为热闹外,其背后的硅光技术亦受到多方关注,含“光”量提升明显。

展会现场,华为首次线下展出昇腾950超节点,中兴通讯正式发布OEX超节点新品,燧原科技则展示NPO光互连原型系统方案,突破传统铜互连距离限制,支持512卡以上超节点部署及超大规模集群弹性扩展。

长飞公司在现场展示了AI智算光纤、AI智算枢纽、陆海全域光互联、全光智能车、具身智能五大主题的产品与解决方案;曦智科技则在光计算领域展示了基于已商业化的光电混合计算加速卡PACE 2产品的全球首款光电智算一体机天枢·光立方。

此外,由上海仪电牵头,曦智科技、中兴通讯、壁仞科技联合攻关的光跃LightSphere X光互连光交换超节点集群在WAIC期间正式宣布实现千卡成果落地。

“随着大模型的爆发,超节点的出现使AI基础设施从云计算时代的数据互连,进入计算互连时代。”曦智科技创始人、董事长沈亦晨在接受财联社等媒体采访时表示。

中国移动集团公司副总经理李慧镝在“光计算+光互连 双轮驱动的AI基础设施新范式论坛”上也表示,面向万卡乃至十万卡级集群,单纯依靠传统路径已经难以满足未来发展需求。更大规模的超节点、更高效率的互连、更低功耗的传输和更灵活的系统集成方式,将成为智算基础设施的核心竞争力。

在李慧镝看来,光互连在大带宽、低时延、低损耗、长距离和高密度集成方面具有天然优势。光互连有望突破大规模集群内部通信瓶颈,提升GPU、AI芯片和服务器之间的协同效率;光计算则为特定计算任务、能效优化和新型计算范式打开新的想象空间。

在这背后,沈亦晨告诉记者,未来在智算中心里能够体现出硅光价值的主要在三个方面:一是光互连,二是光交换,三是光计算。目前,产业正在探索从光模块、NPO(近封装光学)到CPO(光电共封装)的技术演进路径,光计算则正在进入市场渗透期。

从细分技术路线来看,腾讯云副总裁、腾讯网络总经理王亚晨强调,随着超节点规模扩大,光互连已成为突破带宽和功耗瓶颈的关键,NPO是当前国产GPU构建超节点更务实的技术路线。

沈亦晨也判断认为,相较于CPO,NPO是目前最容易第一步达到并且对整个生态产业链扰动最小的一种产品形态,目前NPO方案商用化在即。

“NPO的特点是把光电转换芯片不再通过可插拔的方式插在服务器边缘,而是通过直接放在和计算芯片同一个板卡上这样的形态。它最大、重要的特点是把光电转换的芯片和主芯片的距离拉得更近了,拉得更近了以后,它去掉了光模块里面最贵的那颗芯片,也就是DSP芯片”。沈亦晨补充解释道。

据沈亦晨透露,目前公司自研的NPO近封装光学芯片已完成全链路验证,规模化在即,并且已与包括基流科技、烽火通信、燧原科技、壁仞科技等交换芯片和GPU厂商形成场景合作。

CPO的商业化进程目前则仍在加速推进中。

据了解,CPO的特点是把光芯片和电芯片放在一个封装里面,一方面能进一步缩短铜导线的距离,信号完整性会更好;另一方面,能带来更进一步的带宽提升、延迟缩短。此次WAIC期间,曦智科技亦与盛科通信正式签署CPO战略合作协议,并在论坛现场展示了51.2T CPO光电共封装原型。

光电算力产业化,仍需跨越技术、生态与标准挑战

当前,AI竞争正在从“算力堆叠”走向“系统重构”。不过尽管光电融合方向受到产业关注,距离全面规模化应用仍有多个问题需要解决。

以CPO为例,当前CPO还没有完全铺开的原因是整个产业链还在解决如良率等问题。

沈亦晨进一步解释称,CPO对信号稳定性提出了更高、更严苛的要求,同时整个供应链的成本也需要进一步降低。目前在他看来,行业整体仍在这两个环节上面临瓶颈。不过,他认为这已属于量产最后阶段的工程问题,且从行业普遍反馈来看,最终的光互连形态大概率将落在CPO方案上。

而光计算面临的挑战更加复杂。虽然光具备高带宽、低功耗等优势,但从实验室技术到商业应用,还需要进一步解决成本、可靠性以及应用生态等问题。

光本位科技创始人、董事长熊胤江在谈及对光计算最早规模化场景的判断时也坦言,光计算的瓶颈最终会在于模拟以及封装怎么协调,“它是一个巨大的复杂性系统工程”。此外,“市场到底需要什么”也是一大难点。

相比技术路线本身,产业协同能力正在成为光电算力发展的关键。

李慧镝强调,光与电不是简单替代关系,而是在不同层级、不同场景中优势互补,共同推动AI基础设施向更高性能、更高能效、更大规模演进。

沐曦股份联合创始人兼首席技术官彭莉在论坛上也表示,若要进一步发展和提高光互连市场占有率,软硬件系统化结构设计是关键。在彭莉看来,互连只是建立了通讯的通路,但是所面临的问题应该是一个计算、通讯和应用上面需求的系统性考量。

“目前看到需求方面已经非常的清晰,但是规模化过程当中比较难以克服或者很重要、大家一起印证这个挑战的是产业链协同。”彭莉补充道。

沈亦晨亦表示,“光互连或者是计算光互连的成功,需要从晶圆厂开始,到光芯片、电芯片、封装、光纤、服务器、交换机,整个产业链上下深度协同,才能共同建设这个开放自主可控的光互连生态。”

值得一提的是,WAIC期间,由曦智科技发起、上海市集成电路行业协会、上海市算力网络协会、上海市人工智能行业协会共同指导与支持、近三十家生态伙伴联合发起的“光电算力产业生态建设倡议”正式发布,提出突破核心技术、统一标准体系、搭建融通平台、拓展标杆场景、守牢安全底线五大行动方向。

近年来,上海也深入贯彻落实国家战略部署,加快打造人工智能和集成电路世界级产业集群。在智算产业,上海打造智算供给矩阵,布局临港、松江等多个高性能万卡智算集群,全市智能算力总规模突破17万P。建强市级调度平台,联动16家龙头企业和机构,搭建市级公共算力调度平台,纳管算力超3.4万P,支撑全市169款备案大模型攻关迭代。

热点新闻