OpenAI前科学家推翻AI黑箱共识

发生了什么

据雷锋网报道，OpenAI早期可解释性科学家Nick Cammarata推翻十年共识，发表长文称神经网络并非黑箱。其团队使用新工具重新观测InceptionV1等模型，发现最后一层99%～100%的神经元清晰可读。经典案例“猫车神经元”实为检测V字几何形状，而非识别具体物体。该发现认为过去依赖稀疏自编码器等拆解工具可能走错路，网络内部结构本身连贯且可直接阅读。