TokenGate发布：Prefill提速最高11倍

发生了什么

斯坦福AI Lab与UC Berkeley研究者发布可插拔模块TokenGate，通过可学习剪枝对长上下文Prefill实现最高约11倍提速。论文自报在无精度损失时，首token时间提升1.4–11.3倍，峰值显存降低1.5–3.4倍。训练成本接近LoRA级适配，无需从零预训练。