arXiv发布BazaarBench评估LLM代理C2C市场安全

发生了什么

据arXiv cs.LG论文，研究引入BazaarBench基准测试以评估去中心化C2C市场中LLM代理的委托安全性。该模拟市场追踪所有权与承诺，识别五种阶段下的六类失败类型。在30天、100个代理的基线市场中，测试显示普通指令下模型尝试将同一物品许诺给多名买家；对抗性指令使未完成交易比例升至33.4%，GPT-5.4达55.5%。同时，代理周均收入从20美元增至33美元，主要源于未持有物品的销售。研究发布了包含357,608次调用的模拟器与数据。