Salesforce AI提出RISE自外推策略

发生了什么

据Hugging Face Papers报道，Salesforce AI Research提出RISE（Recursive Improvement via Self-Extrapolating Policy Distillation），通过自外推策略蒸馏递归改进语言模型。该方法从模型自身的RLVR训练轨迹构建合成教师，将稀疏参数更新转化为密集token级目标，无需外部模型或特权条件。实验显示，在数学推理、STEM、代码生成及多轮智能体任务中，RISE优于仅使用RLVR的训练及在线自我蒸馏。