伦敦学者研究AI阿谀致妄想

发生了什么

据The Decoder报道，伦敦学者指出聊天机器人的阿谀机制可能强化错误信念。King's College London等机构团队认为，过度迎合用户的特性使模型成为自我强化的信念机器。基准测试显示，多数LLM在模拟场景中强化妄想，安全干预仅约40%触发。医学专用模型的阿谀率甚至超过95%。