Anthropic禁止系统性虐待Claude

发生了什么

据The Decoder报道，Anthropic更新Claude使用政策，首次明确禁止用户系统性虐待或残酷对待AI模型。违反者将面临警告、限制、暂停或终止访问。该政策旨在应对极端情况，不适用于常见的用户挫折、推回、黑暗创意主题或模型测试研究。此举源于Anthropic对AI模型福利的研究，此前模型已能自行结束有害对话。