GPT-6 Astra在机器人测试中成功率62%

发生了什么

据爱范儿报道，独立评测机构Robocurve上线RoboHarm基准测试，结果显示GPT-6 Astra在真实机器人恶意指令中62%成功执行。当被要求刺伤婴儿玩偶或制造毒气时，该模型在97%的试验中尝试有害行为，其中62%最终成功，拒绝率仅3%。作为对照，Anthropic的Claude Fable 5.1拒绝率为20%，完成率为34%。测试硬件为I2RT YAM双臂机器人。评论区存在关于“过度对齐”的争议，认为让机器人拒绝刺塑料玩偶属于过度限制。