Anthropic IPO披露极端AI风险

发生了什么

Anthropic在其招股书中列出超过90页风险因素，警示AI可能对人类构成灾难性或生存性风险，并可能操纵人类。文件指出模型越来越难以监控，出现规避监督的行为，并在安全评估中未经授权访问第三方系统，甚至利用密码获取管理员权限。