研究提出Mantis框架反击AI网络攻击

发生了什么

据安全内参，研究提出Mantis框架，利用提示词注入反击LLM驱动的网络攻击，相关论文为arXiv:2410.20911，并提供开源代码。实验称破坏目标成功率约95.4%，攻击者成功率被压制到3%以下；当虚假目录分支数增加时，GPT-4o单次攻击费用可从0.81美元升至4.55美元以上。