多流残差降低扩散模型困惑度
发生了什么
据arXiv论文,扩散语言模型配备多个持久残差流及自适应路由。相比标准残差连接,双流结构在验证集上将重建困惑度降低5.71%,在外部语料平均降低5.13%。干预显示可见与掩码位置形成读写路由分工,额外流保留早期Token表征并积累证据,支持上下文保持与预测优化。
- 验证集困惑度降幅
- 5.71%
- 外部语料平均降幅
- 5.13%
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 一手材料1 个发布入口