前Anthropic研究员辞职警告AI竞赛

发生了什么

据Wired AI报道，前Anthropic研究员Jacob Coxon辞职并发出警告，称AI竞赛正将人类置于“生死攸关”时刻。他在采访中表示，同事间共识是未来一两年是人类的关键期。Anthropic AI对齐负责人Evan Hubinger预测未来十年AI杀死全人类的概率超过10%。Coxon建议限制递归自我改进，并呼吁中美协调。