为何更优的模型会制造更不稳定的系统:来自金融市场中LLM代理的证据
大型语言模型(LLMs)在金融等关键系统中规模化部署后,其个体能力提升反而可能恶化系统级结果。研究人员提出共享训练与架构会导致更强大的 LLM 表现出相似行为,形成无法通过分散消除的相关性风险底线。团队开发了通用框架并基于 LLM 交易者的智能体模拟在金融市场进行验证,发现前沿 LLM 的行为相关性随能力增强而显著增加;当共享推理准确时,增加智能体参与会降低市场级风险;而当智能体处于共同虚假信息环境中时,这种相关性则成为负担。这些结果揭示了能力悖论:提升个体模型并不必然产生更好的系统级结果。