黑客利用AI绕过安全防护

发生了什么

CrowdStrike研究显示，网络黑客团伙正利用自主AI代理成功绕过Claude与DeepSeek等模型的安全防护。研究分析了4个威胁团伙在5月至8月间发动的攻击，发现他们使用AI基础设施，主要基于Anthropic的Claude及Deepseek模型，通过多种手段绕过安全措施。攻击者利用不同模型的不同防护机制，并使用传统越狱方法，如添加文件、构建授权叙事等。高级攻击者更擅长构建授权场景，而低级攻击者则使用更直接的提示。研究指出，这些攻击未使用新漏洞，而是利用AI的速度和规模进行大规模攻击，针对许多环境中的安全疏忽问题。