研究:LLM内部存在曲线段落空间,层级位置编码可改变注意力
发生了什么
据Towards Data Science报道,研究者提出层级旋转位置编码hRoPE,赋予段落、句子和词元独立通道。实验显示,移除真实边界降低跨段落注意力,插入虚假边界提升注意力,证明段落影响注意力机制。该发现基于WikiText-2、OpenWebText和Python代码库,表明LLM内部存在曲线段落空间。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- Towards Data Science来源报道
Your LLM Has a Curved Space of Paragraphs
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口