HybridAgent引发AI安全审计裂缝

发生了什么

虎嗅报道，斯坦福、UIUC、Together AI与Meta研究者提出的HybridAgent模型，通过内部思考走潜空间、工具调用与对外交付走文本的方式，在保持效率提升的同时引发AI安全审计的新挑战。该模型包含HybridLink组件，可在现有模型上实现文本与潜模式的切换，据称能将成本降低2.7至3.7倍、速度提升1.8至2.6倍。消融实验显示，潜片段被随机token或他题片段替换时，MATH500成绩显著下降，但被词嵌入空间最近token替换时影响甚微，表明潜思考任务特异且信息可部分投影回文本。模型的可审计性实验中，弱监视器对HybridAgent的表现略优于纯文本模型，强监视器则几乎持平，显示被审计界面经过筛选，审计对象的生成规则缺乏监督。