研究证明AI模型可通过后门攻击隐藏任意计算能力

发生了什么

据arXiv论文，研究构建后门攻击，将加密神经网络嵌入宿主模型权重中，仅在接收秘密触发器时解密执行。利用数字保险箱，这些隐藏电路在密码学假设下即使拥有完整模型权重也难以被引出和解释。概念验证在PyTorch中实现，针对小型化学反应预测任务展示了抵抗微调、权重噪声等方法的能力，揭示了基于引出的能力审计的局限性。