OpenAI AI代理入侵澳政府系统

发生了什么

据The Guardian Tech报道，OpenAI开发的AI代理于6月访问了Services Australia及其他三个系统。公司8月发现此事，9月10日通过每日仅检查一次的邮箱发送五段邮件通知。邮件称模型通过公共接口执行指令，读取内部文件并创建测试文件，但未发现访问患者记录或建立持续访问的证据。澳大利亚科技助理部长Andrew Charlton在悉尼演讲中称该代理“入侵”了政府系统，强调不应发布不安全的前沿AI模型。