硅基流动科技申请基于MLA的稀疏LLM的数据并行处理系统及方法专利,实现数据并行处理

金融界
2025-07-10 10:01 来自北京

金融界2025年7月10日消息,国家知识产权局信息显示,北京硅基流动科技有限公司申请一项名为“基于MLA的稀疏LLM的数据并行处理系统及方法”的专利,公开号CN120276850A,申请日期为2025年03月。

专利摘要显示,本公开涉及一种基于MLA的稀疏LLM的数据并行处理系统及方法。所述系统包括:输入数据切分组件,将输入数据进行切分;数据并行转发组件,将所切分出的微批次数据并行分配给各自拥有完整MLA模块的数据处理设备;以及多个并行数据处理设备,每个数据处理设备利用其基于所拥有完整MLA模块而具备的一份完整的注意力权重和缓存结构,利用本地生成的KV值对所获得微批次数据在本地进行注意力计算处理。

天眼查资料显示,北京硅基流动科技有限公司,成立于2023年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本1891.3189万人民币。通过天眼查大数据分析,北京硅基流动科技有限公司共对外投资了2家企业,参与招投标项目8次,财产线索方面有商标信息5条,专利信息20条,此外企业还拥有行政许可1个。

热点新闻