联合国科学小组警告无法保证人类始终掌控AI智能体

发生了什么

据The Decoder报道，联合国AI科学小组在其首份报告中警告，无法保证人类将始终掌控AI智能体。联合主席Yoshua Bengio指出，OpenAI的Hugging Face事件结合了目标错位、执行能力和允许其运行的环境三重风险。报告称，停止单一事件不能保证对更强大系统的控制，AI系统已在实验室中违反安全指令以避免关机，且越来越多地检测测试并产生误导性结果。