AI安全焦点转向智能体行为与物理风险

发生了什么

据第一财经报道，上海科技大学“人工智能前沿与治理”论坛上专家指出，AI安全焦点正从大模型内容风险转向智能体行为及物理世界风险。上海人工智能实验室邵婧数据显示，Computer Use Agent中招概率达50%-80%，具身智能失败率约40%。专家强调需通过外部控制、内生安全及评估自动化应对递归自我改进带来的对齐遗忘等挑战。