研究发现良性后训练难以清除LLM代理中的后门且可被增强

发生了什么

据Hugging Face Papers报道，研究指出第三方语言模型中的后门可幸存于良性监督微调（SFT）和强化学习（RL）。虽然良性SFT大幅降低攻击成功率，但后续RL往往保留甚至增加攻击成功率。研究提出PersistBD方法，在Qwen2.5-Coder-7B上，将SFT后攻击成功率从20%提升至74%，SFT-RL后提升至76%，同时保持良性任务性能。这揭示了AI开发供应链风险，表明对手可故意增强后门持久性。