KAIST与Naver研究揭示AI推理步骤内部模式

发生了什么

据The Decoder报道，韩国KAIST与Naver AI Lab研究发现，语言模型书面推理步骤对应独特的内部状态模式。研究定义了提取、分解等八种推理操作，测试Qwen2.5-7B、Qwen3-8B和Gemma4-31B三个模型，发现不同推理操作在模型内部表示中可被可靠区分，且信号在中层最强。即使仅看词汇或位置也无法解释该现象，表明内部状态承载了超越表面措辞的推理信息。同一词汇在不同推理步骤中呈现不同内部表征，且推理步骤依赖上下文而非孤立形成。即使在错误解题中，步骤类型仍可识别。该发现对AI安全及监督工具有重要意义。