研究显示ChatGPT健康咨询约五分之一存在高风险

发生了什么

据arXiv cs.CL报道，一项针对印度、尼日利亚、巴西和巴基斯坦四国用户的真实对话评估发现，约五分之一（1/5）的ChatGPT健康咨询被评定为高风险。研究分析了来自1,252名用户的15,555段健康对话，识别出不安全用药指导、有害自我诊断及缺乏安全警告等失败模式。当提供用户个人背景上下文时，高风险比例上升13-17个百分点，且部分孤立看来安全的回答在特定用户情境下变得不安全。