
观点网讯:近日,2026中国算力大会·京津冀智算与先进制造产需论坛在河北廊坊举办。紫光股份旗下新华三集团在论坛上分享面向智能体时代的AI基础设施建设思考,解读算力发展新趋势,并介绍灵犀智算解决方案的核心技术能力。
新华三在论坛上提出,AI基础设施建设正迎来关键转型节点。行业先后经历单机深度学习、大规模大模型训练两个阶段,现已迈入以推理、智能体应用为核心的全新发展周期。
新华三提出,推理算力需求增速已超过训练算力,未来推理算力消耗占比将持续走高,算力建设思路需要从聚焦大模型训练,转向兼顾推理业务与智能体稳定高效运行。智能体业务带来动态波动负载、多智能体协同低时延、KV-Cache高效调度、细粒度安全管控与全链路行为溯源等新挑战,面向确定性训练任务设计的传统算力架构难以应对,算力基础设施需要升级为支撑不确定性业务的弹性底座。
灵犀智算解决方案以“硬件基座重构+软件平台赋能+全栈能力协同”为核心,面向大规模模型训练、私域训推一体化、行业智能体落地三大场景输出端到端智算能力。其中千卡级训练集群可实现91%线性扩展比,Checkpoint读写GPU等待小于10秒。
推理场景方面,依托多维度优化,单卡吞吐可达643.4 tokens/s,同样数量GPU可以支撑更多行业客户业务。
硬件基座重构为训练、推理两类差异化负载统一设计一套基础设施:统一算力资源池实现训练、推理任务在同一资源池内自动调度;一张网络承载大带宽训练流量与低延迟推理流量;一套存储同时满足训练大文件吞吐与推理KV-Cache高速访问。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

