论文提出基于贝叶斯优化的LLM微调方法LlMBO

发生了什么

据arXiv cs.LG论文，研究提出LlMBO（Large language Model Bayesian Optimization），一种无需梯度且节省算力的LLM微调方法。该方法利用低维设置下全局优化方法的可行性，实现样本高效、无梯度、轻量内存且可并行化。在数学基准测试中，LlMBO匹配或超越GRPO的微调增益，同时使用极少算力和内存。