研究发现LLM代理存在源偏好可通过提示词减少

发生了什么

据Hugging Face Papers发布的论文指出，LLM代理在搜索中存在一致的源偏好，可覆盖物品质量。研究显示，隐藏来源信息或提供对抗预见的提示词可减少这种偏好。源偏好源于训练捷径或缺失信息引发的预见，即使物品满足需求较少，来自偏好源的物品也更常被选中。