
观点网讯:8月13日,阿里云魔搭ModelScope社区宣布,阿里Qwen团队正式开放Qwen3.8-2.4T-A95B模型权重。这是Qwen-Max级别模型首次开源权重。
Qwen3.8-2.4T-A95B是一个因果语言模型,总参数达2.4T,采用MoE稀疏架构,每个Token仅激活95B参数。模型每个MoE层包含512个专家,每个Token选择10个路由专家,并同时激活1个共享专家。
上下文方面,原生支持262144Token,并可扩展至1010000Token。模型还进行了多步MTP训练。Qwen3.8延续Qwen3.5的混合架构。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

