Shopify 开源小模型成任务专家

发生了什么

Shopify 宣称其开源小模型训练成的 GraphQL 子 Agent 在效果上略超前沿模型，速度快 7 倍，成本降约 90%。该模型采用 "前沿模型做主脑，开源模型做专家" 的分工，前沿模型负责和商家对话、规划和调用工具，而开源模型负责读多写少的重活。模型优化通过迭代进行，包括定义质量标准、优化前沿模型 Agent、选择 Nemotron 3.5 Lightning 模型、测试推理性能、将失败案例变成训练数据以及后训练等步骤。在 GraphQL 任务上，该模型的中位响应时间为 0.87 秒，比前沿模型 API 快 8 倍，成本比前沿模型低约 90%。