跳到正文
智迹闻AuraTracer

开源ORL扩散语言模型:单卡RTX 5090达2788 tokens/s

本机阅读

发生了什么

据r/MachineLearning帖子,研究团队发布ORL(On-Policy Residual Learning)及自定义推理引擎dlmrt。在单张RTX 5090上,LLaDA-2.1-mini配合ORL实现2,788 tokens/s;8×B200上DiffusionGemma 26B MoE达7,708 tokens/s。QwenDLM-4B端到端吞吐量提升最高6.9倍,H100单请求解码比DFlash快1.74倍。团队已开源模型、训练代码、评估管线及推理引擎。

RTX 5090吞吐
2,788 tokens/s
8xB200吞吐
7,708 tokens/s

报道与来源

1 篇

发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。

  1. r/MachineLearning来源报道

    [Research] 2,788 tokens/s on a single RTX 5090 with a diffusion LLM — Introducing ORL (fully open source) [R]

来源关系与证据边界

按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。

  1. 来源报道1 个发布入口