摩尔线程开源Megatron-MUSA-Titan
发生了什么
据IT之家报道,摩尔线程宣布开源大模型训练基础设施项目Megatron-MUSA-Titan。该项目基于摩尔线程全功能GPU,旨在支持万卡级集群的万亿参数MoE模型训练,覆盖预训练与强化学习场景。技术特性方面,该项目支持blockwise FP8训练以提升计算效率,并结合DeepEP与ACE异步通信引擎加速MoE中的Token分发与计算重叠。目前,该项目已在摩尔线程万卡级集群的预训练实践中应用。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口