Anthropic研究员警告自改进AI毁灭风险

发生了什么

据Ars Technica9月9日报道，前Anthropic研究员Jacob Coxon离职警告，前沿AI公司正在“赌博”，自改进超级智能可能在十年末毁灭人类。Anthropic对齐科学主管Evan Hubinger支持该观点，认为AI导致全人类死亡的概率超过10%。团队报告指出当前模型灾难性风险低，但趋势可能导致未来更危险的对齐问题。