Underdog Saluki 27B量化模型发布

发生了什么

MarkTechPost发布了关于Underdog Saluki 27B模型的运行指南。该模型基于Qwen3.8-27B构建，大小为7.9 GB，采用约2-bit量化技术。开发者声称该模型在保持工具调用能力的同时，在自测的120项任务基准测试中表现优于54 GB的全精度模型。该模型基于ISTA-DASLab的GSQ-RCO量化版本构建，指南提供了在llama.cpp中运行及进行工具调用评测的配置代码。