研究指激活转向作为记忆时事实偏好存储存在缺陷
发生了什么
据arXiv研究报道,针对将激活转向用作技能记忆的研究发现,事实仅存储在最后几层且几乎不被使用(最多15%清洁使用)。偏好转移仅在狭窄强度窗口内有效。更关键的是,参考基准的选择决定概念或方向是否存活:除非减去相反项,否则存储的厌恶会被回忆为喜欢。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- arXiv cs.LG一手材料
What Survives When Activation Steering Is Used as Memory
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 一手材料1 个发布入口