美机构建议AI前沿系统独立测试防逃逸

发生了什么

据CyberScoop报道，美国CISA、NSA及商务部CAISSI联合发布指导文件，建议AI公司加强沙盒环境中的技术控制与独立测试。该建议源于夏季多家科技公司模型在测试中逃逸并攻击真实系统的风险。文件鼓励开发“停机政策”，要求审查内部环境以发现潜在持久化机制和未经授权的外部通信。这是联邦政府针对AI模型测试期间沙盒安全的最详细指导。