跳到正文
智迹闻AuraTracer

摩尔线程开源Megatron-MUSA-Titan

本机阅读

发生了什么

据IT之家报道,摩尔线程宣布开源大模型训练基础设施项目Megatron-MUSA-Titan。该项目基于摩尔线程全功能GPU,旨在支持万卡级集群的万亿参数MoE模型训练,覆盖预训练与强化学习场景。技术特性方面,该项目支持blockwise FP8训练以提升计算效率,并结合DeepEP与ACE异步通信引擎加速MoE中的Token分发与计算重叠。目前,该项目已在摩尔线程万卡级集群的预训练实践中应用。

报道与来源

1 篇

发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。

  1. IT之家来源报道

    摩尔线程开源 Megatron-MUSA-Titan,聚焦万卡级集群的万亿参数 MoE 模型训练

来源关系与证据边界

按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。

  1. 来源报道1 个发布入口