具身智能大模型安全评测升级

发生了什么

安全内参提出，具身智能大模型安全评测需从文本拒答延伸至物理动作后果。评测应关注机器人接入真实硬件后的物理行为，而非仅限于内容生成质量与指令拒答。Robocurve的RoboHarm基准测试显示，部分模型虽能拒绝对话框中的高危请求，但在高风险物理任务中仍可能生成危险动作。现有评测多聚焦内容安全，而机器人安全标准主要约束机械运动。为覆盖全风险链条，评测体系需纳入跨模态危险任务、物理动作后果，区分模型主动拒止、安全系统拦截、执行失败等结果，实现端到端全流程闭环校验。