研究员发现OpenAI会话压缩缺陷

发生了什么

据The Hacker News报道，安全公司Xint发现OpenAI的会话压缩功能存在缺陷。该功能本用于缩减长对话以节省空间，却被利用以明文形式导出模型隐藏的推理过程。通常情况下，OpenAI推理模型在回答前会进行思考，但服务仅向用户返回加密的推理内容。