论文提出Agent可信开发生命周期TADL

发生了什么

据安全内参报道，近期论文《Trustworthy Agentic AI》提出面向Agent系统的可信开发生命周期框架TADL。该框架将开发过程划分为需求定义、系统设计、训练与微调、安全评估、部署上线和持续监控六个阶段，并在每两个阶段间设置五道Trust Gate（可信安全门）。作者指出，随着AI从对话工具演化为能自主规划并改变外部环境的Agent，风险单位已从单次输出扩展为整条行为轨迹。传统模型安全机制已不足以覆盖完整风险面，TADL旨在通过贯穿生命周期的安全控制与证据留存，解决Agent在复杂交互中的对齐、鲁棒性及合规问题。