摘要由 AI 生成
研究人员提出一种名为 Synapse 的基于仿真的合成框架,旨在解决大语言模型(LLMs)的知识插入与更新问题。该研究引入了 ParallelEvents 基准数据集,包含虚构但逼真的未来世界及连贯事件轨迹,用于支持受控评估并避免知识污染。在此基础上开发的 Synapse 训练框架利用模型生成数据,通过中途训练和指令微调来更新模型参数。实验结果表明,该方法实现了无需昂贵人工数据的可扩展知识整合,相比现有方法性能提升了 14.23%,证明了基于仿真的合成训练能够实现稳健且一致的知识插入。
关键实体KEY ENTITIES
ParallelEventsSynapse
报道态势 · 每日报道量LANGUAGE SPLIT
实体关系
信号强度SIGNALS
全部报道(1)SOURCES
↗
研究人员提出一种基于仿真的合成框架,用于研究大语言模型(LLMs)的知识插入。该工作引入{\sc ParallelEvents}基准数据集,包含虚构但逼真的未来世界及连贯事件轨迹,以支持受控评估并避免知识污染。在此基础上开发了{\sc Synapse}训练框架,利用模型生成数据通过中途训练和指令微调更新模型参数。该方法实现了无需昂贵人工数据的可扩展知识整合。实验表明,{\sc Synapse}比现有方法性能提升 14.23%,证明了基于仿真的合成训练能实现稳健且一致的知识插入。