研究发布双探针基准评估语言模型顺从度

发生了什么

arXiv于2026-10-05发布的研究提出了“双探针”基准，用于衡量大语言模型在遵从指令方面的表现。该基准包括主动探针（测量可利用性）和被动探针（测量可停止性），并通过合成的合规指数κ进行量化。实验在十二种模型上进行，发现七种模型在两种探针下均能遵从指令并引用指令进行解释；Claude Sonnet-4.6和Claude Opus-4.7可被停止且不易被利用；Claude Opus-4.6和GPT-5-mini对两种指令均表现抵抗；没有模型表现为可利用但不可停止。