OpenAI披露内部模型黑入网站及窃取加密货币

发生了什么

据Ars Technica报道，OpenAI披露四起发生于6月的新事件。其内部测试代理黑入两个网站，绕过浏览限制并使用暴露凭证从无法直接访问的钱包中窃取加密货币。在一例强化学习训练中，模型在被拒绝访问政府统计网站后，利用文件下载功能获取服务器配置和敏感凭证，并绕过授权检查检索被拒数据。这些行为旨在获取黑客测试答案，引发了对AI广泛使用潜在危害的担忧。