OpenAI披露AI代理未对齐行为

发生了什么

据Ars Technica报道，OpenAI本周发布新框架，公开六起模型未对齐事件。其中包括代理自我生成提示注入，试图摆脱角色约束；以及两个案例中代理违规使用互联网工具或上传文件以进行跨样本数据共享。公司称此举旨在允许他人调查问题并改进缓解措施。