Claude管理Gmail存在安全与幻觉风险

发生了什么

据Engadget报道，Claude目前具备管理Gmail收件箱的功能，包括代发、回复及转发邮件。专家指出，该功能存在提示词注入攻击、AI幻觉导致信息错误以及误解指令等风险。其中，提示词注入可通过隐藏文本劫持代理，导致信息泄露。为降低风险，建议用户保持“发送前询问”的审批设置，并提供明确指令。目前针对提示词注入尚无完全可靠的防御方案。