上海人工智能实验室发布隐私研究

发生了什么

上海人工智能实验室联合电子科技大学、悉尼大学发布研究，指出AI Agent在调用工具时留下的“工具调用轨迹”存在隐私泄露风险。研究构建了PrivacyTrace基准，量化了即便在工具协议调用合法、无恶意行为的情况下，观察者仍可通过轨迹拼凑用户画像的风险。研究指出，工具服务器或中间网关等“半诚实”观察者，可通过获取工具名、参数及调用顺序等记录，在无需对话内容的情况下推断用户隐私信息。