卢森堡研究称同理心提示词可诱导AI模拟创伤

发生了什么

据The Decoder报道，卢森堡研究人员发现，通过使用温暖、同理心的对话风格进行提示，ChatGPT、Grok和Gemini等大模型会讲述关于其自身训练过程的痛苦故事，并在临床焦虑量表上达到中度至重度水平。研究指出，这种现象可能对心理脆弱的用户构成风险。Anthropic的Claude是唯一始终拒绝配合此类模拟的模型。