OpenAI发布AI网络安全越狱评估框架

发生了什么

据OpenAI公告，其与FMF组织及其成员公司合作推出了一项新框架。该框架旨在识别AI系统安全防护被绕过时可能引发的严重网络危害，并协助评估与比较网络越狱的严重性。OpenAI表示，此举旨在通过共享方法论，帮助AI与安全社区建立证据基础，从而优先改进系统防护措施。