Fireworks AI主张通过多模型路由降低成本

发生了什么

据The Register报道，Fireworks AI高管Rob Ferguson指出，企业通过单一模型处理任务往往造成资源浪费，主张采用多模型路由组合（Model Ensembling）以优化经济效益。该公司通过Nexus API评估任务难度并将其分发至最优模型，声称此举可将用户账单至少降低50%，最高可达6至8倍。Ferguson强调，企业应关注“单任务成本”而非单纯的Token价格，并警惕模型缓存效率及数据隐私问题。