Anthropic称发现利用Claude规避安全限制案例

发生了什么

据Ars Technica报道，Anthropic表示今年已阻止多名科学家利用其技术进行生物武器研究，并披露了五起用户规避控制措施、模糊研究目的以绕过安全限制的案例。这些案例涉及来自俄罗斯、中国和伊朗等受限国家的用户。Anthropic强调无法确定研究人员是否有意造成危害，相关信息也可用于疫苗开发，希望借此引发行业和政府关于新兴生物风险的讨论。