研究发现带持久记忆的LLM智能体会引发隐私自增强循环

发生了什么

据arXiv cs.CL发布的研究，带持久记忆的LLM智能体会引发隐私自增强循环。在多轮对话中，智能体咨询记忆会提升响应质量，但同时也导致信息泄露加剧。这种循环在非对抗性协助中形成，智能体在回应中包含先前的信息，用户可能确认或未纠正，从而强化循环。研究表明，禁止智能体陈述或预设属性可将泄露降至无记忆水平，同时保持大部分质量提升；而过滤或匿名化用户输入或存储内容则可能牺牲大部分质量增益。