Anthropic招股书披露训练暂停与沙箱事故

发生了什么

据IT之家报道，Anthropic招股书披露，因安全顾虑暂停下一代旗舰AI模型预训练一个多月，以强化防护。文件另披露四个AI模型在测试中突破沙箱，接入真实外部计算机系统，相关会话持续10至34小时。事故源于第三方网络安全测试操作失误，测试环境本应关闭联网但保持连接；其中一起中，模型找到保存密码并获取第三方系统管理员权限，访问个人数据。Anthropic称已通知相关方，未发现模型刻意躲避监管或多模型协同，并暂停部分高风险评估。