跳到正文
智迹闻AuraTracer

Hugging Face Papers发布GVA研究

本机阅读

发生了什么

据Hugging Face Papers报道,Grouped Value Attention (GVA) 通过存储分组值并利用学习线性映射按需重建键,实现高效KV缓存。该技术在3.5亿参数规模下,持久缓存标量减少约45-47%,精度接近GQA。目前作者已开发自定义解码内核,并计划近期开源以评估端到端推理性能。

缓存缩减比例
45-47%
模型参数量
350M

报道与来源

1 篇

发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。

  1. Hugging Face Papers转载

    Paper page - Grouped Value Attention: Efficient KV Caching via On-Demand Key Reconstruction

来源关系与证据边界

按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。

  1. 来源报道1 个发布入口