Cache2LoRA研究发布

发生了什么

arXiv cs.AI发布Cache2LoRA研究，通过查询聚合证据生成LoRA更新以提升上下文内化，在17个任务上实现宏F1达0.663。Cache2LoRA使用每个查询聚合来自可重用冻结文档缓存的证据，在32K文档和256-token输出、批大小16时，其解码吞吐量是全上下文ICL的5.9倍。在匹配内存大小下，生成的LoRA比学习-KV变体更可靠地保留答案准确性。