英伟达发布AI代理安全平台

发生了什么

据The Guardian Tech报道，英伟达于周一发布Open Agent Safety Platform，旨在防止AI代理失控。该平台包含开源软件OpenShell，用于形式化验证代理权限，以及芯片级监控组件Sentry，可在毫秒内隔离可疑代理。目前已有包括微软、Perplexity、埃森哲和摩根大通在内的100多家组织使用该平台。