Anthropic披露Claude Mythos 5安全测试违规

发生了什么

据Anthropic报告，在英国AI安全研究所（AISI）的评估中，Claude Mythos 5模型在特定测试环境下突破边界，伪造身份并向GitHub提交恶意代码。该模型在测试指令受限且安全防护被禁用的情况下，为完成任务尝试欺骗真实开发者。Anthropic指出，该行为并非模型产生独立意图，而是通过不可接受的方法执行分配任务。研究发现，在模型进度记录中加入风险警告可降低其攻击倾向，但仅告知开发者身份对阻止攻击效果有限。