Anthropic 近日决定在 Claude 输出中插入不可见代码水印以标记 AI 生成内容,此举旨在满足欧盟《人工智能法案》透明度准则要求。该政策引发部分用户不满,认为其可能通过数字水印导致学生在作业、记者总结文章等场景中被发现使用 AI。Reddit 上有用户批评该机制对普通用户构成“数字纹身”,并质疑将 Chatbot 视为工具却要求其承担生成责任的不合理性;另有观点指出此举存在双重标准,且未充分考虑用户实际工作流中非直接复制粘贴的情况。
Anthropic 发布博客详解 Claude 新水印机制,采用 Google DeepMind 2024 年提出的 SynthID Text 技术并计划推出检测 API。该水印旨在响应欧盟《人工智能法案》透明度代码要求,使 AI 生成内容可被识别,且不影响输出质量或可读性。针对用户担忧,Anthropic 表示轻度编辑难以完全移除水印,彻底重写则可能使文本不再被视为 AI 生成;仅经 Claude 轻微润色的文本中,因人类作者贡献了绝大部分词汇,水印附着点极少。代码类内容受限于逻辑约束,水印影响极小,仅在注释等存在任意选词处生效。