研究:早期层Tiny LoRA修复Transformer推理缺陷
发生了什么
Hugging Face Papers 10月2日展示研究,早期层Tiny LoRA可修复Transformer过早停止思考问题。Qwen3-8B在冻结权重下,24行链式推理准确率从15.5%提升至99%;更长训练LoRA可达50行。机制是通过中间层传递链式身份。
- 准确率提升
- 15.5%至99%
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- Hugging Face Papers转载
Paper page - Transformers Stop Thinking Too Early, and a Tiny LoRA Fixes It
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口