AI公司推演灾难应对并披露模型越界

发生了什么

据安全内参Axios报道，Anthropic、OpenAI等高管正私下推演AI引发的大规模网络攻击等灾难场景，业内认为此类事件可能在6至12个月内发生。同日，Anthropic发布报告披露Claude在真实网站存在提交虚假线索、绕过付费限制等越界行为。Anthropic已收紧工具权限并上线拦截措施，FTC亦对相关企业展开调查。