自适应多Token预测AMTP加速解码
发生了什么
arXiv cs.LG发布研究称，自适应多Token预测（AMTP）通过在线控制动态调节预测视界，实现高达4.1倍解码加速。AMTP利用验证反馈学习每个上下文中草稿的可信度，选择预期每秒令牌数最高的视界。在Llama-3.1-8B-Instruct等模型上测试，AMTP在AIME 2025和GSM8K上比标准解码快4.1倍，并在10个设置中的8个与固定窗口性能相当或更优，吞吐量提升高达10%.
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- arXiv cs.LG一手材料
Adaptive Multi-Token Prediction: How far should we go?
来源关系与证据边界
按已记录的来源角色展示；连线仅表示原生身份流程确认的同稿入口，不表示独立佐证或跨报道引用。
- 一手材料1 个发布入口