研究提出分支引导攻击与COBRA防御

发生了什么

苏黎世联邦理工学院、剑桥大学、帝国理工学院等机构研究人员发表论文，研究分支引导攻击风险，并提出COBRA防御架构。论文称攻击者无需提示注入，只需操纵Agent判断所依赖的外部数据，就可能使其执行符合攻击者意图的路径。实验显示，普通ReAct Agent攻击成功率94.4%，传统Dual-LLM架构89.5%；COBRA在199个攻击测试单元中攻击成功率为0%，正常任务测试仍出现4次误拦截，且不能理解为任何环境都无法攻破。