摘要由 AI 生成
研究团队提出 ConfRAG 框架，旨在解决大型语言模型回答不确定时产生的幻觉问题。该框架基于 ConfQA 微调方法，训练模型在回答前进行自我评估，仅在确信时输出答案，否则声明“我不确定”。实验表明，ConfRAG 将多事实基准上的幻觉率从 20% 至 40% 降至 5% 以下。此外，该策略通过减少不必要的检索操作，使检索调用量降低超过 30%，并在理想情况下将模型准确率提升至 95% 以上。
关键实体KEY ENTITIES
ConfQAConfRAG
报道态势 · 每日报道量LANGUAGE SPLIT
信号强度SIGNALS
全部报道（1）SOURCES
↗
本文提出 ConfRAG，一种仅在模型回答不确定时触发检索增强生成（RAG）的策略。该框架基于 ConfQA 微调方法，将多事实基准上的幻觉率从 20%-40% 降至 5% 以下。ConfQA 通过“仅自信时作答”的阻尼提示和原子事实陈述训练数据，使模型输出答案或"I am unsure"。ConfRAG 据此机制减少不必要的检索超过 30%，在理想情况下将准确率提升至 95% 以上。