论文提出通过强化学习训练智能体纠正LLM多智能体目标漂移

发生了什么

据arXiv论文《Learning to Steer LLM Agents and Multi-Agent Systems》显示，针对LLM多智能体系统在执行中易偏离整体目标的问题，研究者提出了一种监督执行的引导智能体。该智能体通过观察执行上下文，决定何时以低成本快速路径或高成本慢速路径进行干预。研究结合成对排名目标和组相对策略优化（GRPO），使用强化学习联合训练两条路径。实验表明，该引导智能体能有效纠正单智能体和多智能体系统的目标漂移，提升性能与效率，且具备泛化能力。