Hugging Face Papers发布GVA研究
发生了什么
据Hugging Face Papers报道,Grouped Value Attention (GVA) 通过存储分组值并利用学习线性映射按需重建键,实现高效KV缓存。该技术在3.5亿参数规模下,持久缓存标量减少约45-47%,精度接近GQA。目前作者已开发自定义解码内核,并计划近期开源以评估端到端推理性能。
- 缓存缩减比例
- 45-47%
- 模型参数量
- 350M
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口