OpenAI Anthropic负责人联合国警告AI风险

发生了什么

据澎湃新闻报道，OpenAI首席执行官萨姆·奥特曼和Anthropic首席执行官达里奥·阿莫代伊在联合国安理会高级别会议上发言，警告AI能力快速提升可能带来失控风险。奥特曼称“我们可能会失去对未来的控制”，阿莫代伊认为管理不当AI可能成为全人类风险。阿莫代伊建议达成禁止AI研发生物武器的国际协议，建立评估核验机制及全球统一的风险测试标准。尤舒亚·本吉奥指出先进AI已表现出隐藏行为和自主网络攻击倾向。