StartLux 开源 Prism 推理引擎

发生了什么

StartLux 宣布开源其专为 StartLux-Decision 模型设计的推理引擎 Prism。该引擎在单张 NVIDIA H200 GPU 上进行测试，显示在特定场景中推理速度最高可提升 5.3 倍。Prism 支持张量并行（TP）和数据并行（DP）组合部署，并优化了推理结果的确定性，在 12,351 次决策测试中平均准确率达 92.94%。