Prime Intellect发布Prime Mega MoE
发生了什么
Prime Intellect在技术动态中宣布推出Prime Mega MoE模型,基于DeepSeek的Mega MoE内核并新增快速重叠的反向计算,使其可用于训练。该实现使MoE内核相较于默认的PyTorch实现提升最高3.11倍,整体端到端训练速度提升最高1.34倍(吞吐提升34%)。技术细节包括支持bfloat16、MXFP8(仅Blackwell)和块状FP8(仅Hopper)等数据类型。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- Prime Intellect · 技术动态一手材料
Prime Mega MoE: Fast Fused MoE Kernels for Training
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 一手材料1 个发布入口