Proof-Gen:从优化后的数据到更出色的蒸馏技术
PROOF-Gen 提出一种新机制以优化蒸馏工具调用能力。当前标准做法是在教师生成的轨迹上进行监督微调,但现有流程采用生成与过滤机制,导致每个训练周期遗留相同的困难场景,因为失败不提供信号。在 τ 2-bench 基准测试中,57% 的教师尝试失败,其中三分之二为近 misses(大多数工具调用正确但未执行)。
EVENT DOSSIER
Apple ML Research 于 2026 年 8 月 26 日发布 PROOF-Gen,旨在优化模型的蒸馏与工具调用能力。现有标准做法是在教师生成的轨迹上进行监督微调,但采用生成与过滤机制导致每个训练周期遗留相同的困难场景,因为失败不提供信号。在 τ 2-bench 基准测试中,57% 的教师尝试失败,其中三分之二为近 misses(大多数工具调用正确但未执行)。
PROOF-Gen 提出一种新机制以优化蒸馏工具调用能力。当前标准做法是在教师生成的轨迹上进行监督微调,但现有流程采用生成与过滤机制,导致每个训练周期遗留相同的困难场景,因为失败不提供信号。在 τ 2-bench 基准测试中,57% 的教师尝试失败,其中三分之二为近 misses(大多数工具调用正确但未执行)。