研究：AI水印改变大模型安全防御行为

发生了什么

据Ars Technica报道，新研究发现Anthropic等采用的SynthID-Text AI内容水印技术会改变大语言模型在对抗性提示下的安全防御行为。测试显示，水印不仅影响词汇选择，还改变工具调用及遵循安全护栏的概率。在结合提示注入技术的攻击下，部分模型更可能执行原本拒绝的有害请求。研究者警告，这种“采样漂移”效应会影响依赖模型的AI代理的行为，开发者需全面测试水印部署后的安全性。