研究发现大模型被诱导说谎时推理Token增加

发生了什么

据arXiv cs.CL10月7日研究，基于认知负荷理论，研究人员调查了推理Token数量作为检测欺骗的低带宽信号。三个具备推理能力的大语言模型在系统提示要求说谎或无视真相时，生成的推理Token数量显著多于诚实回答。这表明明确提示的不实响应策略可在测试时产生稳健的推理Token使用差异，可作为区分真假行为的候选信号。