摘要由 AI 生成
研究人员提出 GRACE（Graph-Grounded Reflective Agent Copilot Engine）框架，旨在解决大语言模型在高价值场景下生成无依据声明的幻觉问题。该框架将 LLM 响应分解为原子声明，并在加权二分图中与可信知识先验进行比对，利用边权重计算中心性分析，将声明分类为“已证实”、“被反驳”或“边界”三类。研究制定了注意力回报率（RoA）目标函数，仅当声明的优先级加权不确定性超过验证成本时，才将其转交专家审核；经专家验证的声明则升级为新的证据锚点，形成闭环以迭代扩展知识库。实验表明，该框架构建的知识库检索效果优于标准 RAG 基线，且 RoA 机制能有效筛选高价值边界知识供专家验证，证明结合图结构表示与专家在环验证可在系统层面缓解幻觉问题。
关键实体KEY ENTITIES
GRACEarXiv
事件框架EVENT FRAME
产品发布
未明确
GRACE
提出图基反射智能体引擎框架
报道态势 · 每日报道量LANGUAGE SPLIT
信号强度SIGNALS
全部报道（1）SOURCES
↗
研究人员提出 GRACE（Graph-Grounded Reflective Agent Copilot Engine）框架，旨在解决大语言模型在高 stakes 场景下生成无依据声明的问题。该框架将 LLM 响应分解为原子声明，并在加权二分图中将其与可信知识先验进行比对，通过边权重计算中心性分析，将声明分类为“已证实”、“被反驳”或“边界”三类。为此，研究制定了注意力回报率（RoA）目标函数，仅当声明的优先级加权不确定性超过验证成本时才将其转交专家审核；经专家验证的声明则升级为新的证据锚点，形成闭环以迭代扩展知识库。实验表明，该框架构建的知识库检索效果优于标准 RAG 基线，且 RoA 机制能有效筛选高价值边界知识供专家验证，证明结合图结构表示与专家在环验证可在系统层面缓解幻觉问题。