AI研究员警告自动化研发或致智能爆炸

发生了什么

据Business Insider·科技报道，部分顶尖AI研究员警告自动化研发可能导致“智能爆炸”，引发每月出现重大突破的反馈循环。Chan与Anthropic联合创始人Jack Clark等人联名呼吁政策制定者关注顶级实验室的自动化进展。Anthropic报告称其批准代码中超过80%由AI生成。研究员指出自动化虽加速发现，但也可能增加失控事件风险。