THUNLP提出Latent Compaction压缩KV缓存
发生了什么
据arXiv cs.LG报道，THUNLP提出Latent Compaction方法，通过测试时训练压缩LLM的KV缓存。该方法利用重建重要性、教师注意力和键空间多样性初始化缓存条目，并通过端到端蒸馏优化整个缓存。实验显示，在RULER数据集上，该方法在32倍压缩下达到96.7%的准确率，优于KVZip+的40.0%，且能跨模型规模迁移。
- RULER准确率
- 96.7%
- 压缩倍数
- 32x
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- arXiv cs.LG一手材料
Latent Compaction with Test-Time Training
来源关系与证据边界
按已记录的来源角色展示；连线仅表示原生身份流程确认的同稿入口，不表示独立佐证或跨报道引用。
- 一手材料1 个发布入口