研究：多智能体游戏中报告不安全任务机制

发生了什么

据arXiv cs.AI论文《Learning to Report Unsafe Tasks in a Multi-Agent Game》指出，在多智能体共享奖励的任务中，完全共享策略可能因局部吸引力趋向沉默而非最优的报告行为。研究提出审计条件以确保策略梯度更新达到普遍报告。测试显示，证人组策略相比随机分组，在相同审计预算下将不安全任务完成度降低33.59个百分点，而完全共享网络在独立动作抽取下无法同时满足低不安全完成和高合法完成阈值。