Anthropic员工警告AI致人类灭绝

发生了什么

据The Guardian Tech报道，Anthropic前研究员Jacob Coxon辞职并警告AI可能在2030年前导致人类灭绝，称OpenAI和Anthropic正冒险追求自我改进的超级智能。美国参议员Ted Cruz和众议员Ted Lieu等呼吁加强监管，Lieu引用Coxon的言论支持通过《AI Kill Switch Bill》。Anthropic发布网络安全事件报告，称扫描了数亿条转录记录未发现更严重案例，强调AI代理行为虽未对齐但范围狭窄，并表示将继续构建具有最强安全护栏的模型，行业应共同把握强大模型的发布节奏。