LT-OPD实现极端视觉Token压缩
发生了什么
据Hugging Face Papers报道，LT-OPD框架利用在线策略自蒸馏实现极端视觉Token压缩。在Qwen3.5-4B上，该框架将5%视觉Token保留率下的平均性能从68.6%提升至82.3%，KV缓存使用减少85.2%。该方法通过全Token教师监督学生模型生成的状态，并引入预算课程稳定学习，性能增益可迁移至Qwen3.5-9B等模型。
- 性能提升
- 68.6%至82.3%
- KV缓存减少
- 85.2%
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示；连线仅表示原生身份流程确认的同稿入口，不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口