【CNMO科技消息】近日,Meta发布开放权重人工智能模型Muse Spark Open,并宣布与苹果合作,针对Mac Studio优化该模型的本地运行方案。

Meta
据CNMO科技了解,Muse Spark Open拥有8160亿个总参数,采用稀疏激活设计,每次推理实际激活的参数约为420亿,支持长达100万Token的上下文窗口,重点面向编程、复杂推理和AI代理任务。通过两台搭载M5 Ultra芯片、各配备512GB统一内存的Mac Studio,用户可在桌面环境中运行这一规模庞大的模型,不必完全依赖云端AI服务。
此次合作颇为引人注目。苹果与Meta过去在隐私政策、平台规则和应用生态等方面存在明显分歧,双方此次却共同推动开放权重模型在苹果硬件上的运行。Meta首席执行官马克·扎克伯格感谢苹果首席执行官约翰·特努斯参与合作,特努斯表示,Muse Spark Open能够在桌面设备上高效运行,展示了Mac Studio在本地AI计算方面的潜力。

苹果
Muse Spark Open是Meta Muse模型系列中的开放权重版本。与只能通过远程服务访问的封闭模型不同,开放权重模型允许用户获取模型权重,并在符合许可条件的前提下自行部署,为开发者、研究人员和企业提供了更大的运行环境控制权。

在硬件层面,Meta表示该模型经过针对Mac Studio的优化,可利用苹果芯片的统一内存架构运行。传统独立显卡系统通常需要将模型权重放入显存,而苹果的统一内存架构允许CPU与GPU共享同一内存池。两台Mac Studio可通过相应的软件框架协同运行,使系统拥有约1TB的统一内存。每台设备搭载的M5 Ultra芯片具有最高1.2TB/s的内存带宽。苹果的MLX机器学习框架为Apple Silicon上的模型执行提供了支持,Meta则针对Muse Spark Open进行了相应调整。


