提出CopyGen解码插件提升大模型精确匹配能力

发生了什么

据arXiv cs.CL发布，研究提出CopyGen解码插件，通过显式控制大模型文本片段复制机制显著提升精确匹配能力。该插件使复制从next-token预测的副产品转变为受控过程，分解为何时复制、复制多远及何时停止三个决策。在三个LLM主干和四个基准任务上，CopyGen在不微调模型的情况下将平均精确匹配率提高35%，并集成SFT进一步提升4%，同时显著加速生成。该研究指出可靠精确复制不是LLM免费获得的，而是需要显式建模的解码时控制问题。代码已开源至GitHub。