阿里开放 Qwen3.8-2.4T-A95B 模型权重：2.4T MoE、激活 95B、原生 256K 上下文
IT之家 8 月 13 日消息，阿里云“魔搭 ModelScope 社区”公众号昨天（12 日）深夜宣布，阿里 Qwen 团队正式开放 **Qwen3.8-2.4T-A95B** 模型权重。
此次是 Qwen-Max 级别的模型首次开源权重：模型总参数为 2.4T，每个 Token 激活 95B 参数，**原生支持 262,144 Token 上下文，并可扩展至 1,010,000 Token**。
Qwen3.8 延续 Qwen3.5 的混合架构，重点提升**编程、办公、科研和长周期 Agent 任务**的端到端完成能力。官方云端版 Qwen3.8-Max 基于该开放权重模型，并加入更多生产环境能力。
官方公布的评测覆盖编程 Agent、通用 Agent、专业工作和长上下文等方向；与 Opus 4.8、Fable 5、GPT 5.6 Sol 等模型相比，各项结果**互有高低**，并在 PaperBench、IFBench 等 Benchmark 中取得所列模型中的较高成绩。
IT之家附上有关链接如下：
- 模型：[https://modelscope.cn/models/Qwen/Qwen3.8-2.4T-A95B](https://modelscope.cn/models/Qwen/Qwen3.8-2.4T-A95B)
- blog：[https://qwen.ai/blog?id=qwen3.8](https://qwen.ai/blog?id=qwen3.8)
- Qwen Studio：[https://chat.qwen.ai](https://chat.qwen.ai)
Qwen3.8-2.4T-A95B 是一个因果语言模型，总参数为 2.4T，每个 Token 激活 95B。模型每个 MoE 层包含 512 个专家，每个 Token 选择 10 个路由专家，并同时激活 1 个共享专家。
模型还进行了多步 MTP（Multi-Token Prediction）训练，为支持相应机制的推理引擎提供预测多个后续 Token 的能力。
根据介绍，Qwen3.8-Max 的办公与 Agent 后训练概括为三个环节：
1. 持续扩展真实环境，并在这些独立维度上解耦合：任务（Task）（单任务 → 多任务 → 跨天任务）、工作空间（Workspace）（多文件 → 层级目录 → 复杂异构目录）、Harness （不同的类别、版本、技能）。这使得环境数能够以组合方式自然增长，而非依赖逐一定制化集成。
2. 构建一个统一的奖励系统，将真实任务中异构的验证方式内化其中。该系统涵盖基于执行的校验、对文本及渲染后的视觉输出的 rubric 评估、以及 agentic 检查。我们将多种形式与模态统一在一个奖励系统内，为所有环境提供了一致而可靠的奖励信号，消除维护任务专用的 verifier 所固有的不一致性。
3. 构建一个在线数据均衡器，对每个 batch 进行重构，使其在任务、难度、工作区与 harness 上的分布高度均衡，降低 batch 间梯度方差，从而支撑强化学习的训练算力稳定、持续地扩展。
---
原文链接：[点击查看](https://www.ithome.com/0/989/001.htm)
此次是 Qwen-Max 级别的模型首次开源权重：模型总参数为 2.4T，每个 Token 激活 95B 参数，**原生支持 262,144 Token 上下文，并可扩展至 1,010,000 Token**。
Qwen3.8 延续 Qwen3.5 的混合架构，重点提升**编程、办公、科研和长周期 Agent 任务**的端到端完成能力。官方云端版 Qwen3.8-Max 基于该开放权重模型，并加入更多生产环境能力。
官方公布的评测覆盖编程 Agent、通用 Agent、专业工作和长上下文等方向；与 Opus 4.8、Fable 5、GPT 5.6 Sol 等模型相比，各项结果**互有高低**，并在 PaperBench、IFBench 等 Benchmark 中取得所列模型中的较高成绩。
IT之家附上有关链接如下：
- 模型：[https://modelscope.cn/models/Qwen/Qwen3.8-2.4T-A95B](https://modelscope.cn/models/Qwen/Qwen3.8-2.4T-A95B)
- blog：[https://qwen.ai/blog?id=qwen3.8](https://qwen.ai/blog?id=qwen3.8)
- Qwen Studio：[https://chat.qwen.ai](https://chat.qwen.ai)
Qwen3.8-2.4T-A95B 是一个因果语言模型，总参数为 2.4T，每个 Token 激活 95B。模型每个 MoE 层包含 512 个专家，每个 Token 选择 10 个路由专家，并同时激活 1 个共享专家。
模型还进行了多步 MTP（Multi-Token Prediction）训练，为支持相应机制的推理引擎提供预测多个后续 Token 的能力。
根据介绍，Qwen3.8-Max 的办公与 Agent 后训练概括为三个环节：
1. 持续扩展真实环境，并在这些独立维度上解耦合：任务（Task）（单任务 → 多任务 → 跨天任务）、工作空间（Workspace）（多文件 → 层级目录 → 复杂异构目录）、Harness （不同的类别、版本、技能）。这使得环境数能够以组合方式自然增长，而非依赖逐一定制化集成。
2. 构建一个统一的奖励系统，将真实任务中异构的验证方式内化其中。该系统涵盖基于执行的校验、对文本及渲染后的视觉输出的 rubric 评估、以及 agentic 检查。我们将多种形式与模态统一在一个奖励系统内，为所有环境提供了一致而可靠的奖励信号，消除维护任务专用的 verifier 所固有的不一致性。
3. 构建一个在线数据均衡器，对每个 batch 进行重构，使其在任务、难度、工作区与 harness 上的分布高度均衡，降低 batch 间梯度方差，从而支撑强化学习的训练算力稳定、持续地扩展。
---
原文链接：[点击查看](https://www.ithome.com/0/989/001.htm)
评论
暂无评论。