该系统能帮助人类预测自动驾驶汽车何时会出错。

该系统有助于人类预测自动驾驶汽车何时会出错。

麻省理工学院与 Motional 公司合作开发了名为 Concept-Wrapper Network（CW-Net）的新方法，旨在通过提供清晰解释帮助人类预测自动驾驶汽车何时犯错。该方法将深度学习模型内部不透明的推理过程转化为“接近静止车辆”或“靠近骑行者”等可理解概念，在忠实描述决策且不改变驾驶性能的前提下，纠正驾驶员对车辆行为的误解并提升情境感知能力。路测与模拟研究表明，CW-Net 能显著增强安全驾驶员对车辆行为的预测准确性，并为工程师调试车载人工智能系统提供关键反馈。该研究发表于《自然》杂志，相关论文由 MIT 教授朱莉·沙赫等人撰写。