Anthropic建议法院有权禁售高风险AI

发生了什么

据IT之家援引路透社报道，Anthropic于10月15日致信加州州长纽森，建议政府应有权向法院申请禁令，阻止对公众构成严重风险的AI模型发布。Anthropic在信中对“紧急关闭开关”持保留意见，认为针对性关闭智能体或暂停特定客户权限更为有效。此外，Anthropic曾于今年6月受美国政府限制，要求其限制外国用户访问Mythos 5和Fable 5模型，该命令随后被撤销。