VEPA框架实现LLM代理安全策略验证演化

发生了什么

据arXiv cs.AI论文报道，研究者引入VEPA框架，用于验证和持续演化LLM代理的安全护栏。VEPA将护栏表示为形式化策略的可执行符号规则，利用LLM根据部署反馈提议修补程序，并通过确定性验证器确保策略结构有效且无冲突。证据感知层仅在拥有足够支持证据时激活已验证规则。在ASSEBench-Safety、ASSEBench-Security和ATBench上，VEPA consistently优于基线方法。