高通演示端侧MoE智能体技术

发生了什么

高通在第九届进博会上展示了端侧MoE（混合专家模型）智能体演示。该项目由高通与阶跃星辰、Infris AI及江波龙合作完成，旨在通过系统性优化解决端侧运行大模型时的带宽瓶颈。阶跃星辰负责提升模型智能，Infris AI提供专家模块预测与预取方案，江波龙优化存储加载效率，高通则通过芯片平台与软件栈协同，实现专家模块路由与缓存预测。该演示旨在探索在终端内存与功耗限制下，通过MoE架构提升模型处理复杂任务的能力。