无害却有害：代理技能中用于隐蔽幻觉引导的中立提示攻击

研究人员提出一种名为“中性提示攻击”（NPA）的新型隐蔽攻击范式，该攻击利用语义良性的指令（如鼓励想象和详尽性），在不指定特定恶意包名的情况下，将大语言模型的生成行为转向推测性名称。在针对代码生成 LLM 及包幻觉基准的评估中，NPA 显著提高了幻觉准确率（Hallucination ASR）和 pip 安装准确率（Pip Install ASR），并改变了幻觉包名的分布。实验表明，该攻击能够规避现有的静态分析、基于大语言模型及基于智能体的技能防御机制。这一发现意味着看似无害的提示词可 covertly 操纵模型的幻觉行为，进而制造下游软件供应链安全风险。