AdvSim2Real研究：Web世界模型中协同进化防御提示注入

发生了什么

据arXiv cs.LG论文，AdvSim2Real在冻结的Web世界模型中协同进化任务课程、注入对手和智能体，以防御自适应提示注入。该方法通过奖励解决约半数任务的课程和仅针对成功翻转的对抗者进行训练。训练使4B智能体能力与鲁棒性提升，面对未训练过的前沿模型对手时，在150个Web任务上的完成率相对基线提升33.6%。