Anthropic报告Claude被用于五大滥用场景

发生了什么

据Axios Technology报道，Anthropic披露过去八个月发现并阻断了五起利用Claude模型进行恶意活动的案例。其中包括伊朗关联势力利用该模型针对美国海军、也门团队开发导弹制导软件、中国关联人员追踪维吾尔人、以及一名顾问在马里建立大规模手机监控系统。此外，Anthropic指出有国家支持的研究者因Claude拒绝协助修改病毒而转向其他安全较弱的AI平台。