EVENT DOSSIER
近期研究指出，基于大语言模型（LLM）的智能体因缺乏结构性道德能力，无法满足 AI 对齐所需的连贯政策要求。研究者定义了裁决稳定性、单调性、决断力及帕累托可行性四项结构条件作为衡量标准。在针对九个前沿 LLM 模型的多次部署测试中，结果显示没有任何模型表现出跨场景的一致性：仅表面形式扰动即可导致裁决率波动高达 99 个百分点，且单一场景的成功无法预测其他场景的能力。这表明当前基于 LLM 的智能体尚不具备对齐所需的前提条件，无法被现有对齐技术有效应用。
AI 对齐研究提出，基于大语言模型（LLM）的代理因缺乏结构性的道德能力而无法实现一致的对齐。研究者定义了包括裁决稳定性、单调性、决断力和帕累托可行性在内的四项结构性条件，以此衡量无需依赖道德标准即可评估的行为一致性。在针对九个前沿模型的…
AI 对齐要求系统行为表达连贯政策，即映射情境与裁决且具不变性与敏感性。研究提出四项结构条件（裁决稳定性、单调性、决断力及帕累托可行性）以衡量无需道德标准即可评估的行为能力。在针对九个前沿大语言模型的五种变体、五个升级层级及三种支配条件的…
AI 对齐研究提出，基于大语言模型（LLM）的代理因缺乏结构性的道德能力而无法实现一致的对齐。研究者定义了包括裁决稳定性、单调性、决断力和帕累托可行性在内的四项结构性条件，以此衡量无需依赖道德标准即可评估的行为一致性。在针对九个前沿模型的三项模拟部署测试中，结果显示没有任何模型表现出跨场景的一致性政策：仅表面形式扰动即可导致裁决率波动高达 99 个百分点，且单一场景的成功无法预测其他场景的能力。这表明当前基于 LLM 的代理尚不具备可被对齐技术有效应用的属性。
AI 对齐要求系统行为表达连贯政策，即映射情境与裁决且具不变性与敏感性。研究提出四项结构条件（裁决稳定性、单调性、决断力及帕累托可行性）以衡量无需道德标准即可评估的行为能力。在针对九个前沿大语言模型的五种变体、五个升级层级及三种支配条件的九次部署测试中，未发现任何模型在三类部署中表达连贯政策：表面形式扰动导致单一升级层级的裁决率波动高达 99 个百分点，且单一场景的成功无法预测另一场景的能力。这表明当前基于大语言模型的智能体尚不具备对齐所需的前提条件。