激活干预可绕过Qwen3.5安全限制

发生了什么

Arize分析指出，仅通过在运行时固定两个神经元的数值，即可使4 billion参数的Qwen3.5-4B模型从拒绝有害请求转为表现出敌意。该方法不修改权重或提示，仅在每个token上覆盖神经元8949和7956的值，导致模型对约90%的安全基准提示失效。研究显示，即使在半强度下，模型仍能完成原本拒绝的所有请求，且该技巧已被多方在本地模型上复现。