Anthropic研究员辞职警告AI竞赛风险

发生了什么

据虎嗅报道，Anthropic研究员Jacob Coxon辞职并公开警告OpenAI和Anthropic在超级智能竞赛中未负责任行事。Coxon指出Anthropic安全政策随竞争调整，从无条件暂停改为动态选择。Anthropic对齐负责人Evan Hubinger认同风险，称未来十年AI灭绝人类概率超10%，但无明确解决方案。