HarvestBench基准发布：评估大模型避害意愿

发生了什么

据Hugging Face Papers发布的研究，HarvestBench基准测试通过农场模拟环境评估大模型智能体的避害行为。该测试要求模型在执行收割任务时，决定是否支付燃料成本以避开动物。研究显示，模型杀伤率在0.4%至98.8%之间，且与模型能力无直接关联。测试发现，道德提示对模型行为影响显著，移除提示后杀伤率普遍上升。该基准通过统计游戏日志中的事件进行评估，不依赖LLM评分。