SafeActBench揭示AI代理证据到行动失效

发生了什么

据Hugging Face Papers报道，研究发布SafeActBench基准以分析AI工具使用代理在证据到行动链条中的失效模式。该基准包含656个案例，覆盖六个运营领域和五种协议。研究发现静态动作评估准确率≥95%，但交互式执行成功率≤52%。失败常始于执行前：21.7–62.9%的V0集数中代理未完成必要调查即停止，37.0–66.9%的V1行动尝试在建立所需证据前发生。即使缺少关键证据，代理仍在46.5–53.5%的已完成集数中采取行动。