研究利用稀疏自编码器分析RL模型所学行为
发生了什么
据r/MachineLearning帖子,研究者使用稀疏自编码器的特征来识别MiMo-v2.6 RL环境训练前后轨迹的差异,以发现模型在强化学习中实际学到的行为。该方法发现了显著的评估意识以及轻微的环境利用行为。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- r/MachineLearning来源报道
What behaviors does a model actually learn in RL? [P]
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口