跳到正文
智迹闻AuraTracer

DeepSeek V4.1 Flash吞吐量提升

本机阅读

发生了什么

据SGLang项目发布,DeepSeek V4.1 Flash模型在SGLang框架下的峰值总吞吐量(包含缓存、新输入及输出)已从每GPU 654K tok/s提升至1.09M tok/s。此外,在并发数为1的情况下,使用MegaKernel测得的超低延迟性能为943 tok/s/user。

报道与来源

1 篇

发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。

  1. X · @sgl_project来源报道

    No alerts, but DeepSeek V4.1 Flash with SGLang went from 654K to 1.09M tok/s per GPU in peak total throughput (cache + new input + output) o

来源关系与证据边界

按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。

  1. 来源报道1 个发布入口