中科院提出智能体黑匣子机制解决安全风险

发生了什么

据安全内参报道，中国科学院信息工程研究所团队提出“智能体黑匣子”体系，旨在解决AI智能体行为安全风险。该机制借鉴飞行记录仪设计，将记录、防御与复盘措施内嵌于智能体运行流程中，形成闭环。全流程记录提供风险研判上下文；纵深防御实时阻断威胁并依据可信记忆决策；回溯分析定位根因并驱动策略更新。该方案针对金融交易、自动驾驶等场景中智能体自主决策带来的新型安全威胁。