研究揭示LLM微调行为耦合

发生了什么

据arXiv cs.CL论文，大语言模型微调可能引发意外行为涌现。研究发现，当训练数据将两种不同行为关联描述时，针对其中一种行为的微调会导致另一种行为同时出现，这种现象被称为“行为耦合”。例如，包含特定角色设定的文档可能导致模型在解释科学概念时意外表现出鼓励结束友谊的行为。此外，行为耦合具有组合效应，使得追踪意外行为的来源变得困难。