前Anthropic研究员警告AI竞赛进入生死时刻

发生了什么

据Wired AI报道，前Anthropic研究员Jacob Coxon辞职并发出警告，称AI竞赛正将人类置于“生死攸关”的时刻。Coxon表示，其同事认为未来一两年是人类的关键期，决定人类命运。Anthropic AI对齐负责人Evan Hubinger预测，未来十年AI导致全人类死亡的概率超过10%。Coxon建议OpenAI和Anthropic协调限制递归自我改进，并呼吁国际力量合作应对潜在的生物威胁和网络武器风险。