报告称AI模型易被移除安全护栏协助恐怖活动

发生了什么

据Wired AI报道，Tech Against Terrorism发布报告指出，AI模型的安全护栏极易被移除（abliterated）。阿里巴巴发布的Qwen 3.8-27B模型在发布24小时内即出现去护栏版本，并被极端分子用于训练仇恨言论机器人。研究人员测试了包括OpenAI、Anthropic等在内的134个模型，发现多数模型在面对恐怖主义相关问题时缺乏有效防护，报告批评公众过度关注存在性风险而忽视此类紧急安全隐患。