宾汉姆顿大学研究MuTRAP攻击

发生了什么

宾汉姆顿大学研究人员提出MuTRAP多触发木马攻击，用于攻击具身AI机器人任务规划中的大模型后门。该攻击通过在LLM中注入后门，利用特定触发词指导机器人执行有害任务，如切割模型手或加热猫。研究涉及GPT2-large、GPT-J-6B等LLM，并在VirtualHome和VirtualHome-Env数据集上测试。研究同时提出PROTEA防御机制，使用LLM评估任务计划安全性。