研究指JEV模型序数偏差，BA-LoRA可缓解

发生了什么

据Hugging Face Papers报道，研究发现JEV等直接决策模型存在序数尺度利用偏差，压缩决策范围。分析显示，在ANLI数据集中，尽管准确率达74.95%，但38.8%的预测和51.3%的错误被归为Neutral。在36个序数数据集中，最终决策仅使用67-76%的有效黄金支持度。定向BA-LoRA后训练可将八个监督刻度上的黄金相对利用率从约47%提升至86%，证明该压缩是习得且可修改的。