跳到正文
智迹闻AuraTracer

SGLang与NIXL推出Elastic EP Scaling

本机阅读

发生了什么

据X报道,SGLang与NIXL合作推出Elastic EP Scaling技术,支持MoE部署在不重启情况下动态增加GPU。该技术允许现有rank继续服务,同时新rank初始化。

报道与来源

1 篇

发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。

  1. X · @lmsysorg来源报道

    How do you add GPUs to a running MoE deployment without restarting it? The answer is Elastic EP Scaling in SGLang with NIXL: existing ranks

来源关系与证据边界

按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。

  1. 来源报道1 个发布入口