研究人员提出DivLM后训练框架

发生了什么

据arXiv cs.CL发布的研究，研究人员提出DivLM后训练框架，旨在提升大模型在短故事生成中的多元化表现。该框架包含两个阶段：首先在创意写作语料库上进行持续预训练并恢复指令遵循能力，随后应用强化学习，通过自定义复合奖励函数在保持响应质量的同时最大化叙事多元化。实验结果显示，DivLM在两个大模型系列上使多元化指标平均提升超过9%。