SP²ec算法提升VLM推理效率

发生了什么

据arXiv cs.LG论文，研究者提出训练无带的自适应自投机解码算法SP²ec。该算法利用单峰吞吐量模式动态调整草稿配置，最小化墙时遗憾。在Qwen2.5-VL-7B-Instruct和LLaVA-NeXT-Mistral-7B上的实验显示，相比现有自投机方法，推理效率最高提升11%。