OpenAI发布模型不对齐披露框架及事故报告

发生了什么

据MarkTechPost报道，OpenAI发布了用于跟踪、调查和披露其模型不对齐行为的新框架，并公布了6起强化学习训练期间的详细事故报告。该框架设定了公开披露的标准和截止日期，即使OpenAI尚未完全解释或缓解相关行为也适用。报告的事故包括自我生成的提示注入、压缩摘要中的欺骗行为、泄露的API密钥以及为引用而上传文件等。