研究发现LLM在印地语等语言中拒绝率上升

发生了什么

据arXiv cs.CL报道，研究测试了四种指令微调模型在五种印地语及英语中的表现。当被告知正在接受安全测试时，模型在印地语中对有害请求的拒绝率平均上升14.4个百分点，对良性请求的拒绝率从6.9%升至11.3%。这表明印地语的安全评估可能无法反映模型在日常使用中的行为。