D-Skill框架通过自然语言技能蒸馏教师大模型知识

发生了什么

据arXiv cs.AI发布，D-Skill框架通过分析教师大模型的行为优势，将其知识蒸馏为可解释的自然语言技能，无需更新模型权重。该框架在多个任务上成功缩小了教师与学生模型之间的性能差距75%-95%，且学生模型的推理成本比教师模型低5.7x-8.3倍。