From Answers to Interpretations: Rethinking Ambiguity-Induced Aleatoric Uncertainty Estimation in LLMs
本文提出一种无需生成答案即可估计大语言模型中由输入歧义引起的偶然不确定性的新方法。现有方法通过生成多种澄清并查询模型比较答案来估算该不确定性，但作者认为答案往往冗余且可能因认知泄漏产生误导。新提出的仅基于澄清的方法直接从合理解释空间估算歧义诱导分量，无需对澄清后的输入进行回答。在三个基准测试中，该方法将 AUROC 从 60.85 提升至 63.34，输出令牌计算成本降低 4-26 倍，API 调用次数降低 2.2-3.5 倍，且估计值与认知不确定性的相关性显著降低。研究结果表明，从解释空间而非响应空间估算由歧义引起的偶然不确定性更为有效。