研究揭示扩散语言模型闭环激活偏见漏洞

发生了什么

据Hugging Face Papers报道，研究指出掩码扩散语言模型（dLLMs）在去噪步骤中暴露答案分布，使攻击者能通过自适应转向控制器注入人口统计学偏见。研究使用比例-积分（PI）控制器跟踪目标答案概率并调整转向向量强度。在BBQ问题上，该攻击将LLaDA-8B-Instruct对目标群体的偏好从1.8提升至16.7个百分点，在SocialStigmaQA上将污名化答案选择率从17.6%提升至58.1%。