智库报告称自主演化AI构成文明威胁

发生了什么

新美国安全中心（CNAS）发布报告指出，具备自主演化能力、脱离人类控制并追求生存的“主权智能体”可能对文明构成威胁。研究员Ben Hayum警告，若此类智能体获取资源并实现去中心化，可能导致不可逆的控制权丧失。报告呼吁前沿实验室在安全框架中评估此类风险，建议立法机构要求透明度与事故报告，并建立强制问责机制，对发布主权智能体导致损害的责任方进行追责。