MAS-Guard防护框架发布

发生了什么

据arXiv cs.CL报道，研究人员推出MAS-Guard统一防护框架，旨在保护包含可观测和不可观测智能体的单智能体和多智能体AI应用。该框架通过在可观测智能体中应用任务特定专家评估代理事件，以及在系统级别结合确定性结构检查和语义评估，来执行允许、反射、确认和阻止等干预措施。在涵盖不同单智能体和多智能体场景的六个基准测试中，MAS-Guard将未经防护代理的整体攻击成功率降低了71.5-86.3%，同时满足良性任务中的效用参考标准。