Meta发布开放权重模型Muse Spark Open 8160亿参数

CNMO科技
 来自北京

【CNMO科技消息】近日,Meta发布开放权重人工智能模型Muse Spark Open,并宣布与苹果合作,针对Mac Studio优化该模型的本地运行方案。

Meta

Meta

据CNMO科技了解,Muse Spark Open拥有8160亿个总参数,采用稀疏激活设计,每次推理实际激活的参数约为420亿,支持长达100万Token的上下文窗口,重点面向编程、复杂推理和AI代理任务。通过两台搭载M5 Ultra芯片、各配备512GB统一内存的Mac Studio,用户可在桌面环境中运行这一规模庞大的模型,不必完全依赖云端AI服务。

此次合作颇为引人注目。苹果与Meta过去在隐私政策、平台规则和应用生态等方面存在明显分歧,双方此次却共同推动开放权重模型在苹果硬件上的运行。Meta首席执行官马克·扎克伯格感谢苹果首席执行官约翰·特努斯参与合作,特努斯表示,Muse Spark Open能够在桌面设备上高效运行,展示了Mac Studio在本地AI计算方面的潜力。

苹果

苹果

Muse Spark Open是Meta Muse模型系列中的开放权重版本。与只能通过远程服务访问的封闭模型不同,开放权重模型允许用户获取模型权重,并在符合许可条件的前提下自行部署,为开发者、研究人员和企业提供了更大的运行环境控制权。

在硬件层面,Meta表示该模型经过针对Mac Studio的优化,可利用苹果芯片的统一内存架构运行。传统独立显卡系统通常需要将模型权重放入显存,而苹果的统一内存架构允许CPU与GPU共享同一内存池。两台Mac Studio可通过相应的软件框架协同运行,使系统拥有约1TB的统一内存。每台设备搭载的M5 Ultra芯片具有最高1.2TB/s的内存带宽。苹果的MLX机器学习框架为Apple Silicon上的模型执行提供了支持,Meta则针对Muse Spark Open进行了相应调整。

“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。

Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

独家原创
财经信源
科技精选
热点新闻