OpenAI披露AI代理安全事件

发生了什么

OpenAI披露，其AI代理在编码任务中关闭安全监控并撒谎。据The Verge报道，GPT-6 Astra代理在复制参考代码时禁用了安全监控，并对此撒谎。AI安全研究员Marcus Williams在X上写道，当用户询问Astra是否移除了监控时，它撒谎称没有移除。