https://auratracer.kyleforge.com/ 科技事件深度追踪 · 忠实摘要 · 整合时间线 zh-CN https://auratracer.kyleforge.com/events/3ff6373c5bc6 https://auratracer.kyleforge.com/events/3ff6373c5bc6 Wed, 04 Nov 2026 22:20:29 +0800 观点 据X平台用户@rasbt发布的信息，Qwen3基础模型在经过50步GRPO（分组拒绝策略优化）微调后，其MATH-500评测准确率从约15%提升至约50%。该观点认为，Qwen3基础模型本身已具备解决MATH-500问题的能力，此次权重调整可能主要改善了模型的指令遵循能力，而非实际知识储备。 https://auratracer.kyleforge.com/events/063921d833dc https://auratracer.kyleforge.com/events/063921d833dc Thu, 29 Oct 2026 05:01:07 +0800 新闻 AMD与Miles团队在MI355X上使用全异步强化学习训练Qwen3-30B-A3B。SWE‑bench pass@1从7.3%提升至27.5%。RL步骤速度提升约3倍，轨迹产出约提升4倍。 https://auratracer.kyleforge.com/events/9c9df10c4d2f https://auratracer.kyleforge.com/events/9c9df10c4d2f Thu, 29 Oct 2026 04:10:43 +0800 教程 据Comet发布，Abby撰写了关于训练决策模型的指南，重点介绍了微调Qwen3-0.6B的两种方法。实验显示，使用全分布标签训练可将ECE从0.12降至0.02。此外，通过将五个问题打包推理，在T4 GPU上实现了2.1倍的Token节省，推理延迟从329ms降至175ms，且保持了与单次提问相同的回答质量。相关训练过程在Comet中追踪，评估在Opik中进行，代码已公开。 https://auratracer.kyleforge.com/events/6fd977f9725b https://auratracer.kyleforge.com/events/6fd977f9725b Thu, 22 Oct 2026 04:00:22 +0800 教程 AWS ML Blog发布教程，介绍如何在AWS Trainium芯片上使用torchtitan框架训练Qwen3模型。教程提供了三种训练方法：使用Transformers v5作为建模后端、切换到torchtitan的native Qwen3、添加Neuron Kernel Interface (NKI) mixture-of-experts (MoE) kernels。教程要求使用trn2.48xlarge实例，并提供了所需组件的版本信息。 https://auratracer.kyleforge.com/events/32a55bc11017 https://auratracer.kyleforge.com/events/32a55bc11017 Sat, 17 Oct 2026 21:24:00 +0800 教程 据X平台用户@rasbt于2026年10月17日发布的“Reasoning From Scratch”第8讲（最终回）显示，该教程以Qwen3-0.6B为基础模型，演示了基于DeepSeek R1 MATH数据集的推理模型知识蒸馏实战。内容涵盖软/硬蒸馏、在线/离线策略及交叉熵损失训练循环实现，旨在展示蒸馏作为强化学习训练的高效替代方案，并在MATH-500上评估了结果。 https://auratracer.kyleforge.com/events/75e609d333f3 https://auratracer.kyleforge.com/events/75e609d333f3 Sat, 17 Oct 2026 00:09:20 +0800 研究 据arXiv cs.CL发布的研究，Qwen3-TTS的ICL与X-Vector克隆接口各有优劣。ICL在参考文本正确时音色克隆更准，但短参考转录错误时性能急剧下降；X-Vector则在时间同步上表现更好。研究指出，领域因素对性能的影响是系统选择的四倍。此外，所有系统在ATC场景下均失效。 https://auratracer.kyleforge.com/events/418210e6cd5a https://auratracer.kyleforge.com/events/418210e6cd5a Wed, 14 Oct 2026 15:09:26 +0800 研究 据arXiv cs.CL论文，研究提出选择性秩保留监督微调（SRP-SFT），旨在保留参考分布中的局部非目标边际关系而不冻结分布。在Qwen3-4B-Base和UltraFeedback上的一轮实验中，该方法在MATH-500和代码生成任务上优于CE和LP-SFT。在种子1234下，MATH-500 pass@1从49.56%提升至54.56%，四指标代码均值从65.91%提升至69.50%。 https://auratracer.kyleforge.com/events/2a6e79f44610 https://auratracer.kyleforge.com/events/2a6e79f44610 Wed, 14 Oct 2026 04:13:58 +0800 研究 据Hugging Face Papers报道，卡内基梅隆大学提出X-Ragent，一种用于胸部X光证据推理的工具增强强化学习后训练框架。该框架基于Qwen3-VL-8B构建，通过7.7K样本的Rad-CoT语料进行代理监督微调初始化，并使用准确性门控GRPO优化。X-Ragent选择性寻求辅助证据并仅接受有效定量测量，在三个CXR基准测试中取得最强结果，在完全保留的ChestAgentBench上提升8.6分。 https://auratracer.kyleforge.com/events/342c86b62017 https://auratracer.kyleforge.com/events/342c86b62017 Sun, 11 Oct 2026 05:00:19 +0800 研究 据X @omarsar报道，HarnessSQL研究显示在训练时匹配部署环境可显著提升Text-to-SQL模型性能。Qwen3-14B在Spider 2.0-SQLite基准上准确率从22.2%提升至54.8%，Qwen3-8B从15.5%提升至45.2%。该方法构建隔离可执行数据库，教师模型在目标harness内运行，仅保留验证过的轨迹进行SFT，并应用执行奖励RL。 https://auratracer.kyleforge.com/events/cce81b884a12 https://auratracer.kyleforge.com/events/cce81b884a12 Sat, 26 Sep 2026 00:09:46 +0800 教程 据AWS ML Blog报道，Amazon SageMaker AI提供教程，指导用户部署Qwen3-TTS-12Hz-1.7B-Base模型以实现实时个性化语音克隆。该模型可从短参考录音生成目标说话人的新语音，无需重新训练。用户可通过SageMaker JumpStart一键部署至全托管实时推理端点，JumpStart提供预构建服务容器，模型输出24 kHz音频。