提出混合生成-标记解码模型提升属性提取效率

发生了什么

据arXiv cs.CL论文，研究者提出混合生成-标记解码模型，结合标记源跨度与开放式生成以提升产品属性提取效率。对于可复制的频繁属性，标记头直接提取值；生成头则处理罕见属性及不可复制值。集成至vLLM推理后，该混合解码器将属性覆盖率提高10%，正确提取的属性值对增加63%，同时将延迟降低44%且未损失精度。