EVENT DOSSIER
NVIDIA 发布 NeMo Switchyard 并公布智能路由测试数据，显示仅 7% 任务需前沿模型且成本降低 7…
NVIDIA 推出 NeMo Switchyard，旨在通过智能路由跨模型调度 AI Agent 工作负载。在针对 145 个智能体任务的测试中，该方案发现仅 7% 的对话回合需要前沿模型。相比将所有请求发送至最大模型，NeMo Switchyard 在提升六点准确度的同时，降低了 74% 的成本。该工具允许用户根据任务需求动态分配不同模型，例如利用分类模型处理特定步骤、推理模型处理下一步以及小模型处理常规跟进任务，从而优化 AI Agent 构建流程中的模型选择与资源分配。
企业 · 官方发布跨 1 天
NVIDIA 发布 NeMo Switchyard 并公布智能路由测试数据，显示仅 7% 任务需前沿模型且成本降低 7…
NVIDIA 推出 NeMo Switchyard 实现智能路由，在 145 项任务测试中显示仅 7% 需前沿模型，提升六点准确度并降低 74% 成本。
2 条报道NVIDIA 推出 NeMo Switchyard，旨在跨模型调度 AI Agent 工作负载。该工具允许用户根据任务需求动态分配不同模型，以利用各模型的特定优势、弱点及成本特征。例如，单一代理任务可能需分类模型处理某一步骤、推理模型处理下一步，以及小模型处理常规跟进任务。若将所有请求发送至最大模型将导致效率低下或成本增加。NeMo Switchyard 通过智能路由解决此问题，优化 AI Agent 构建流程中的模型选择与资源分配。
NVIDIA 在 145 个智能体任务中测试 NeMo Switchyard，发现仅 7% 的对话回合需要前沿模型，且该路由方案在提升六点准确度的同时降低了 74% 的成本。