前OpenAI研究员称90%神经元功能可解释

发生了什么

据安全内参报道，前OpenAI研究员Nick Cammarata于10月15日发表长文《Neural Networks Are Already Clean》，提出大型神经网络内部结构比预期更易理解。其团队对Qwen3-32B模型的审查显示，约90%的神经元响应方向对应明确主导功能，7%表现为两个高度相关功能，仅2%-4%无法找到清晰规律。研究引入AI Agent自动化分析，盲测中76%的新生成正向样本引发强烈激活，反例误激活率仅11%。该发现挑战了“叠加”假说，认为过去混乱源于观察工具局限及模型架构差异。