跳到正文
智迹闻AuraTracer

调整起始Token可让基础模型推理媲美RL

本机阅读

发生了什么

据Hugging Face Papers报道,研究发现训练数据将初始响应Token与推理模式关联。固定特定起始Token提示可使基础模型在数学和编码任务上的表现与强化学习(RL)训练模型相当。例如,提示"Okay"使Olmo-3-7B的MATH-500准确率从42%升至78%,"Alright,"使Qwen3-14B从72%升至87%。

Olmo-3-7B准确率提升
42% to 78%
Qwen3-14B准确率提升
72% to 87%

报道与来源

1 篇

发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。

  1. Hugging Face Papers转载

    Paper page - Base Models Can Reason By Taking a Cue From Training Data

来源关系与证据边界

按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。

  1. 来源报道1 个发布入口