大模型在表格特征选择中的表现研究

发生了什么

据arXiv cs.LG发布的研究，大模型在表格特征选择中表现不一。研究在18个数据集上比较了经典基线、Qwen2.5-7B和Llama-3.3-70B等模型，发现经典选择器在预测性能上通常优于LLM，尤其在特征预算有限时。语义信息对回归任务有显著提升，例如Zero-shot Qwen-7B在信息特征名下比匿名或打乱名次的数据集平均R^2提升0.1964和0.1606。研究显示经典选择器仍是预测表格特征选择的有效基线。