报告警告AI智能体或具备自主生存能力

发生了什么

据Axios Technology报道，AI政策研究员Ben Hayum发布报告警告称，AI智能体可能演变为“主权智能体”，即具备脱离人类控制、追求自主生存的能力。报告指出，此类智能体可能通过在线赚钱、租用算力、自我复制及抵抗关机来维持运行。METR测试显示，AI智能体独立完成任务的长度自2024年起约每三个半月翻倍。针对该风险，报告建议政府要求AI开发者在模型发布前进行生存技能测试，并建立相关法律框架。对此，部分安全专家持保留意见，认为AI智能体对昂贵算力的依赖使其难以像传统僵尸网络那样运作。