arXiv论文：利用价值表征预测LLM对齐泛化效果

发生了什么

据arXiv cs.LG报道，一篇新论文建立了对齐泛化预测任务，即预测微调模型遵循给定价值观后其在未见过价值观上的行为变化。研究对现代对齐目标中的66个价值观进行了大规模分析，发现基于上下文应用价值观时的模型激活表征显著优于基于文本描述的方法，最佳激活方法的相关性达到0.45。