arXiv提出mmVB模块：多图像推理加速5倍

发生了什么

据arXiv cs.CV论文，研究者提出mmVB模块，通过视觉预算分配实现高效多图像推理。该模块无需重训基础模型，仅增加1.6M参数，将视觉输入token减少9倍。测试显示，其首次生成时间（time-to-first-token）加快5倍，预填充FLOPs减少7倍，并在八个多图像推理基准上保持94.4%的全分辨率精度。