跳到正文
智迹闻AuraTracer

arXiv发布DPA-MoE运行时精度控制框架

本机阅读

发生了什么

据arXiv论文,DPA-MoE是一种用于MoE推理的运行时精度控制框架。该框架利用SharedScale AnyBCQ将专家前馈权重编码为可前缀解码的块,离线分析每专家重建残差,并在推理时基于实时路由器门控分数分配块。实验显示,在Qwen3-30B-A3B和DeepSeekMoE-16B上,相比均匀分配,DPA-MoE在匹配预算下提升了KL散度和下游准确率,尽管原型存在适度的稳态吞吐量开销。

测试模型
Qwen3-30B-A3B, DeepSeekMoE-16B

报道与来源

1 篇

发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。

  1. arXiv cs.CL一手材料

    DPA-MoE: A Runtime Precision Control Framework for MoE Inference

来源关系与证据边界

按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。

  1. 一手材料1 个发布入口