arXiv揭示LLM合并后门威胁

发生了什么

据arXiv论文，研究团队揭示了大语言模型合并过程中的单侧条件后门（OMCB）未对齐威胁。该后门在独立模型中潜伏且不可检测，但在合并时激活并触发安全未对齐。参数跨越安全决策边界是主要诱因。研究提出SMOKE元学习攻击框架，通过双层优化策略植入后门，并在多种架构和合并技术实验中验证了其绕过现有检测的有效性。