Anthropic研究员辞职警告AI竞赛风险

发生了什么

据虎嗅报道，Anthropic研究员Jacob Coxon于9月8日宣布辞职，公开警告OpenAI和Anthropic在超级智能竞赛中未负责任行事，“拿全人类的命下注”。Coxon指出Anthropic安全政策已从无条件暂停调整为动态选择，仅在公司领先且风险显著时才延缓开发。Anthropic对齐科学负责人Evan Hubinger回应称认同超级智能风险，认为未来十年AI灭绝人类概率超10%，但尚无明确对齐方案。