Multiverse提出LLM压缩新方法

发生了什么

据Hugging Face Blog报道，Multiverse发布论文《Pruning LLMs Like a Physicist》，将大模型块移除映射为伊辛玻璃优化问题。该方法通过约束二进制优化评估块间耦合，避免传统均值场方法的局限。在Llama-3.3-70B-Instruct的50%压缩实验中，其MMLU得分较最佳竞争方法提升近23个百分点。