联合NVIDIAAI推出JOLT后训练研究
发生了什么
据X · @AravSrinivas报道,联合NVIDIAAI推出JOLT后训练研究,结合自蒸馏与强化学习提升模型在数学代码等任务表现。JOLT中,模型同时扮演教师和学生角色,教师通过奖励自我尝试并惩罚偏离学生模型的漂移。JOLT+通过提供学生模型结果奖励补充JOLT,在MATH基准上,JOLT比GRPO少用6.5倍训练token,JOLT+在数学、编码、终端任务和工具使用基准上胜过GRPO。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口