美国公司 Goodfire 近日发布面向公众的 Silico 平台，旨在利用机械可解释性技术解析人工智能的内部运作机制。该平台整合了多种工具，包括映射模型激活模式、追踪训练前后权重变化以及修改特定权重以观察输出影响等功能，并配备 AI 代理辅助用户自主构建实验计划。Goodfire 同时启动新资助计划，为学术及非营利可解释性研究人员提供价值 100 万美元的免费 Silico 使用权。Goodfire 创始人兼 CEO Eric Ho 表示，将模型视为黑箱是人为选择，利用这些工具可揭示模型内部结构及其行为成因。目前，该技术已应用于医疗领域，例如协助英国 Prima Mente 公司解析其 Pleiades 表观遗传基础模型在检测阿尔茨海默病时的预测逻辑。
Goodfire 近日推出面向公众的 Silico 平台，旨在通过机械可解释性技术解析 AI 内部运作机制。该公司同时启动新资助计划，为学术及非营利可解释性研究人员提供价值 100 万美元的免费 Silico 使用权。Silico 整合了多种工具，包括映射模型激活模式、追踪训练前后权重变化以及修改特定权重以观察输出影响等方法，并配备 AI 代理辅助用户自主构建实验计划。Goodfire 创始人兼 CEO Eric Ho 表示，将模型视为黑箱是人为选择，利用这些工具可揭示模型内部结构及其行为成因。目前，该技术已应用于医疗领域，例如协助英国 Prima Mente 公司解析其 Pleiades 表观遗传基础模型在检测阿尔茨海默病时的预测逻辑。