From Interpretability Methods to Interpretable Models
arXiv:2609.05399v1 提出应将计算机视觉可解释人工智能（XAI）的研究重心从方法转向模型。现有工具箱已成熟，包含归因、特征可视化及基于概念和电路的方法，但当前工作多集中于构建与比较这些方法，而忽视了核心问题：模型的可解释性如何以及其进展如何。文章主张利用现有工具表征不同模型的表征与计算内容，并探讨模型是否能被依赖它的人类独立评估者真正理解，该理解需测量而非推断。文中回顾了工具箱的成熟度、综述了少量模型比较工作，并结合系统神经科学进行类比，最后提出了以模型为核心的 XAI 议程。