LLM并非始终遵循贝叶斯原则：量化LLM概率信念中的内部不一致性
现代 AI 系统在医学、科学和法律等复杂领域部署时，常面临无唯一正确答案的情况，必须能根据新证据更新不确定信念以做出理性决策。研究人员引入将大型语言模型（LLMs）视为信息处理规则的技术，利用“贝叶斯更新差距”来研究 LLMs 如何从证据中更新概率信念的内部一致性。现有实验对这一方法进行了广泛评估。
摘要由 AI 生成
苹果机器学习团队发布研究报告，指出大型语言模型（LLMs）在处理无唯一正确答案的复杂任务时，其概率信念更新存在内部不一致。研究将 LLMs 视为遵循特定信息处理规则的系统，利用“贝叶斯更新差距”方法评估其在医学、科学及法律等关键领域的表现。实验结果显示，现有 LLMs 在根据新证据理性更新不确定信念方面未能达到一致性标准，这对依赖 AI 进行决策的复杂场景提出了挑战。
相关事件RELATED EVENTS