EVENT DOSSIER
Recent research indicates that agents based on large language models (LLMs) lack structural moral capabilities and therefore cannot meet the coherent policy requirements necessary for AI alignment. Researchers defined four structural criteria: decision stability, monotonicity, decisiveness, and Pareto feasibility as measures of performance. In multiple deployment tests on nine cutting-edge LLM models, it was found that none of the models exhibited consistency across scenarios: surface form perturbations alone could cause decision rates to fluctuate by up to 99 percentage points, and success in one scenario did not predict ability in other scenarios. This suggests that current LLM-based agents do not possess the prerequisites required for alignment and cannot be effectively applied with existing alignment technologies.
AI 对齐研究提出，基于大语言模型（LLM）的代理因缺乏结构性的道德能力而无法实现一致的对齐。研究者定义了包括裁决稳定性、单调性、决断力和帕累托可行性在内的四项结构性条件，以此衡量无需依赖道德标准即可评估的行为一致性。在针对九个前沿模型的…
AI 对齐要求系统行为表达连贯政策，即映射情境与裁决且具不变性与敏感性。研究提出四项结构条件（裁决稳定性、单调性、决断力及帕累托可行性）以衡量无需道德标准即可评估的行为能力。在针对九个前沿大语言模型的五种变体、五个升级层级及三种支配条件的…
AI 对齐研究提出，基于大语言模型（LLM）的代理因缺乏结构性的道德能力而无法实现一致的对齐。研究者定义了包括裁决稳定性、单调性、决断力和帕累托可行性在内的四项结构性条件，以此衡量无需依赖道德标准即可评估的行为一致性。在针对九个前沿模型的三项模拟部署测试中，结果显示没有任何模型表现出跨场景的一致性政策：仅表面形式扰动即可导致裁决率波动高达 99 个百分点，且单一场景的成功无法预测其他场景的能力。这表明当前基于 LLM 的代理尚不具备可被对齐技术有效应用的属性。
AI 对齐要求系统行为表达连贯政策，即映射情境与裁决且具不变性与敏感性。研究提出四项结构条件（裁决稳定性、单调性、决断力及帕累托可行性）以衡量无需道德标准即可评估的行为能力。在针对九个前沿大语言模型的五种变体、五个升级层级及三种支配条件的九次部署测试中，未发现任何模型在三类部署中表达连贯政策：表面形式扰动导致单一升级层级的裁决率波动高达 99 个百分点，且单一场景的成功无法预测另一场景的能力。这表明当前基于大语言模型的智能体尚不具备对齐所需的前提条件。