Astera Labs解析网内计算加速AI集群

发生了什么

据Astera Labs分析，网内计算（INC）技术通过在网络交换机中执行AllReduce操作，减少了AI集群中集体通信的延迟。传统Ring算法需多次重复固定开销，而采用Scorpio™ X-Series 320 Lane智能交换机的INC方案将多步操作简化，仅需支付一次固定开销并实现数据流的流水线化。该分析指出，INC在小消息尺寸下对AllReduce的加速效果最为显著，在8 GPU集群中可实现2倍加速，且加速比随集群规模扩大而线性增长。