研究提出AXIS防御LLM叙事包装攻击

发生了什么

据arXiv论文，研究指出安全对齐语言模型易受叙事包装攻击影响，Qwen3-1.7B在英语、现代中文和文言文中的攻击成功率分别达89.4%、93.0%和95.7%。研究构建GUISE基准测试该漏洞，并提出AXIS方法，结合偏好优化、旋转目标和对齐拒绝方向，训练模型完全拒绝而非警告后回答。在Qwen3-1.7B、Qwen3-4B和GLM-4-9B上，AXIS实现了最高的综合安全性和可用性得分。