研究揭示LLM在医疗证据聚合中过度信任同源报告

发生了什么

据arXiv cs.CL发布的研究，大语言模型（LLM）在医疗验证任务中存在行为偏差。评估显示，GPT-5.5能正确识别独立更新研究的谱系（10/10），但在聚合证据时却过度信任来自同一试验的第二份报告（5/5）。Qwen3-4B和Ministral-3-8B也表现出类似跨任务差异。通过添加分组指令，GPT-5.5的过度信任行为从4/5降至0/5。该研究揭示了模型在谱系识别与证据聚合间的状态不一致性。