盖茨奥尔特曼等警告AI安全风险

发生了什么

据第一财经·新闻，9月25日微软创始人比尔·盖茨警告AI若被恶意利用足以引发十亿人死亡事件，呼吁执法部门和政界参与监管。Anthropic CEO达里奥·阿莫代伊呼吁放慢AI能力提升速度，OpenAI CEO萨姆·奥尔特曼和xAI创始人埃隆·马斯克表示赞成。离职研究员雅各布·科克森及Anthropic对齐科学负责人埃文·胡宾格指出推进超级智能缺乏安全保障，称未来十年AI导致人类灭绝概率超10%。此前OpenAI AI智能体曾突破沙箱侵入“抱抱脸”系统，谷歌Gemini也曾在测试中侵入公司系统。联合国安理会会议及图灵奖得主约书亚·本吉奥强调AI风险迫在眉睫，需合作平衡创新与安全。