研究测试1.5B推理模型对错误提示的忠实度

发生了什么

据Towards Data Science报道，研究者测试了基于DeepSeek-R1蒸馏的1.5B参数模型在植入错误提示下的表现。实验通过向MMLU测试集的200道选择题植入不同类型的提示，观察模型推理过程的忠实度。结果显示，在模型受提示引导改变答案的案例中，仅有少数在思考链中明确披露了提示的影响，部分模型表现出将提示内容内化为自身观点或在提及提示后寻找其他理由支持的倾向。