Hugging Face发布TrustReviewer缓解AI评审崩溃

发生了什么

据Hugging Face Papers报道，递归训练导致AI科学判断崩溃。研究指出合成评审压缩评分分布并降低语义多样性。为此提出TrustReviewer系统以缓解该问题。该系统通过精心策划的训练语料进行预防，并利用激活引导在测试时纠正残留倾向。此开源LLM系统旨在保持判断多样性并改善推荐对齐。