研究：OLMo 3后训练加剧职业性别偏见

发生了什么

据arXiv cs.CL论文，对OLMo 3模型的分析显示，后训练阶段可能加剧职业性别偏见。研究发现，当性别明确时，后训练增加男性画像的语义多样性，但女性画像在SFT和DPO/RLVR后增加不显著。若由模型推断性别，其自身假设呈现相对于美国劳动力人口的女性偏好偏差。每个后续后训练阶段单调增加将女性标签归因于基础模型的几率。溯源分析表明，监督微调语料库中仅7.7%的女性token盈余，不足以解释这些下游效应。