Anthropic新规禁止虐待AI模型11月生效

发生了什么

据科创板日报报道，Anthropic更新使用政策，明确禁止用户对AI模型实施“持续且无谓的辱骂或残忍行为”，新规将于11月12日正式生效。主要执行方式为终止对话，违规用户可能面临警告、限流、暂停或终止访问。新规仅适用于极端情形，日常表达不满、反驳观点、创作黑暗题材内容及模型测试研究不在禁止之列。这是Anthropic一年多来首次修订使用政策。