TokenFleet框架亮相CCF大会

发生了什么

是石科技在2026 CCF全国高性能计算学术大会上发布了TokenFleet分布式调度框架，旨在提升大模型推理效率与成本效益。该框架包含TokenPilot、FleetMind和SLOMax三项关键技术，分别负责请求选点、跨机房容量协同和混合负载治理。TokenPilot通过预测延迟路由降低首Token延迟，FleetMind实现跨机房容量协同，SLOMax优化混合负载治理。该框架为国产算力规模化推理提供新的调度思路。