GB300 NVL72在DeepSeek Flash v4.1上实现高性能推理
发生了什么
据@SemiAnalysis_和@sgl_project报道，GB300 NVL72在运行DeepSeek Flash v4.1时，通过SGLang的激进内核融合技术，推理性能接近1000 tok/s/user。@SemiAnalysis_指出TileRT在开源前沿模型的大内核引擎生态中引领了这一趋势。@sgl_project对SGLang贡献者、NVIDIA及@SemiAnalysis_的基准测试表示感谢。
报道与来源
2 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- X · @SemiAnalysis_来源报道
ALERT🚨: GB300 NVL72 @sgl_project can get close to 1000 tok/s/user on DeepSeek Flash v4.1 by aggressively fusing kernels together!! TileRT st
- X · @sgl_project来源报道
Closing in on 1,000 tok/s/user. 🚀 DeepSeek V4.1 Flash on GB300 NVL72, with SGLang’s aggressive kernel fusion pushing performance further. Hu
来源关系与证据边界
按已记录的来源角色展示；连线仅表示原生身份流程确认的同稿入口，不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口
- 来源报道1 个发布入口