研究发现语法错误加剧大语言模型偏见

发生了什么

据arXiv cs.CL研究，语法错误会加剧大语言模型中的社会偏见，介词错误影响最大，微调可减轻该影响。现有偏见基准主要评估流畅、规范的英语，未代表非母语者。研究通过向提示注入常见学习错误，发现语法错误增加偏见，且错误率越高影响越大。介词错误导致最大、最一致的增加。微调可减少由语法错误引起的偏见增加。该研究指出，仅基于规范提示的偏见评估可能低估了包含语法错误英语的用户所经历的偏见。