研究发现改变包装可翻转大模型安全判定

发生了什么

据安全内参报道，来自东北大学、佐治亚理工学院和南加州大学的研究者发现，仅改变表达包装即可大幅翻转大模型安全Judge判定。研究者未修改模型回答主体内容，仅在回答前后加了几句话，一些安全Judge的判定就发生了翻转。最醒目的结果出现在GPT-4o-mini Judge上，作者给原本已经正确判定为“不安全”的回答套上特定结构后，判定发生翻转。研究揭示安全Judge可能学会了“安全的样子”而非真正理解风险，揭示了新的评测攻击面。