MIT展示权重空间编程:GPT-6 Astra直接优化模型权重
发生了什么
MIT CSAIL团队展示了“权重空间编程”(Weight-Space Programming)技术,通过GPT-6 Astra直接分析并修改神经网络权重,无需梯度下降或重新训练。实验中,Astra通过修改Qwen3.5-0.8B模型约0.016%(131072个)的参数,修复了其推理循环问题,使其在MATH-500上的成绩从7.9%提升至48.1%,GSM8K成绩从13.8%提升至67.1%。研究团队指出,该方法主要用于消除模型性能障碍,而非注入新知识;对于未出现推理循环的Gemma 3 270M模型,该方法未带来显著提升。
报道与来源
3 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。