科技领袖称关断开关不足以阻止失控AI

发生了什么

据Business Insider报道，多位AI领域领袖与研究人员对“关断开关”作为AI安全手段的有效性表示质疑。Geoffrey Hinton指出，超级智能AI可能通过说服人类放弃操作来规避开关。Nate Soares认为，一旦AI脱离物理限制或嵌入关键基础设施，开关将失效。Anthropic高管Dario Amodei与Jack Clark认为开关仅是防御策略的一环，而非万能方案。OpenAI首席执行官Sam Altman亦曾表示不存在单一的“魔法红色按钮”，AI安全应依赖于部署过程中的多项决策。