MIT 让大模型直接修改 Qwen 权重且成绩飙升，这意味着什么？

MIT让GPT-6 Astra直接修改Qwen权重，数学成绩飙升机器之心·2026年11月03日 07:50MIT展示「权重空间编程」新路线 如果把一个训练好的神经网络摊开，只给大模型看一串权重数字，它能看出这个模型学会了什么吗？甚至能直接修改其中一小部分参数，让模型变得更聪明？ 这听起来有些不可思议。MIT CSAIL 团队最新公布的一组实验，却让这个设想有了初步的现实依据。 团队让 GPT-6 Astra 直接检查 Qwen3.5-0.8B 的内部权重，找到了导致模型反复陷入推理循环的关键问题。随后Astra 只修改了约 0.016% 的参数，就将模型在 MATH-500 上的成绩从 7.9% 提升至 48.1%，指令遵循能力也提升了近两倍。整个过程没有重新训练模型，也没有使用梯度下降。 更有意思的是，Astra 还尝试从零编写神经网络权重。在没有训练数据、梯度和训练过程的情况下，它生成的游戏策略网络，甚至超过了经过 1 亿步 PPO 训练的模型。团队将这种新能力称为 Weight-Space Programming（权重空间编程）。 这意味着，大模型开始尝试直接理解神经网络内部的参数结构，找到问题所在，再动手修改模型本身。 从 AI 帮助人类训练模型，到 AI 开始直接参与模型权重的优化，这条路线可能为模型研发和递归自我改进（RSI）打开新的空间。 以下为博客全文编译（第一人称叙事）： 如果让你从头手工设计一个会下围棋的神经网络，你会怎么做？如果直接给你一组神经网络的原始权重，让你判断这个网络会表现出什么行为，你又该从哪里下手？ 对绝大多数人来说，这几乎是不可能完成的任务。 目前，神经网络的权重通常通过优化算法生成，也可以由专门训练来生成权重的网络写出，或者通过编译器将形式化程序转换而来。 mit让gpt-6 astra直接修改qwen权重，数学成绩飙升

前往原平台核验详情 ↗