共享电路可以预测大型语言模型在算术推理中是否能够跨格式进行泛化。

共享电路可以预测大型语言模型在算术推理中是否能够跨格式进行泛化。

一项新研究提出，共享电路可预测大型语言模型（LLMs）在算术推理中跨格式泛化的能力。研究人员利用归因补丁技术，在英语、西班牙语和意大利语三种语言中独立定位了模型解决数字算术问题与文字表述问题的不同电路，并测试了该重叠度是否预测其向文字格式的泛化效果。研究发现，电路重叠度能够解释三种文字格式相对难度的差异，且能准确预测模型的泛化表现及正确解题率，其效果媲美监督探针但无需标注数据。