开源ORL扩散语言模型:单卡RTX 5090达2788 tokens/s
发生了什么
据r/MachineLearning帖子,研究团队发布ORL(On-Policy Residual Learning)及自定义推理引擎dlmrt。在单张RTX 5090上,LLaDA-2.1-mini配合ORL实现2,788 tokens/s;8×B200上DiffusionGemma 26B MoE达7,708 tokens/s。QwenDLM-4B端到端吞吐量提升最高6.9倍,H100单请求解码比DFlash快1.74倍。团队已开源模型、训练代码、评估管线及推理引擎。
- RTX 5090吞吐
- 2,788 tokens/s
- 8xB200吞吐
- 7,708 tokens/s
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口