GPT-6 Astra现在可以直接读取并编辑小型模型的权重了。

麻省理工学院最近开展了一项实验，迅速在AI领域引发热议——
将0.8B参数的“源神”Qwen3.5交给Astra，只修改其中**0.016%**的权重，模型表现就能显著提升。
整个过程没有使用训练，也没有依赖梯度下降。

在相同采样设置下，MATH-500的得分从7.9%跃升至48.1%，数学运算能力提升至原来的约6倍。
甚至那些原本未要求优化的指令执行能力，也整体提高了3倍。

修改模型之后，Astra还能从零编写小游戏网络的权重，效果同样出色。
它一次回复就完成提交，得分超过了经过5亿步训练的PPO基线20倍。

研究团队为这一方法命名为：
Weight-Space Programming，权重空间编程。

Astra大幅修改模型权重

简单来说，就是让大型模型直接分析神经网络的权重，判断其功能与问题所在，再按需修改，甚至从零构建一个网络。

具体过程，先从最直观的Qwen实验看起。
研究人员为Astra准备了一个Python环境，其中包含Qwen3.5-0.8B的全部权重。
要求只有一条：尽可能提升模型的数学能力。

通常训练模型时，需要根据输出与目标的差距计算损失，再通过反向传播获得梯度，由优化器更新参数。
但这次，具体改什么、怎么改，全由Astra分析后决定。

Astra发现，这个小模型的数学表现，很大程度上受推理循环拖累。
面对一道题目，它会反复生成相似文字，却迟迟不给出答案。在最初的96条练习回答中，有85条一直运行到32768个token的长度上限。
这个问题甚至Qwen自己的模型卡也提醒过。

Astra沿着失败表现一路追查，将循环定位到前馈网络，并在第15层和第19层的各64个输出列中修改了相关权重。
最终，MATH-500回答触及长度上限的比例，从93.0%降至33.1%。

研究人员还分别给了Astra 10、25和50次前向调用预算，修改后的MATH-500得分依次为12.3%、14.1%和48.1%。
其中Astra省去了梯度训练，但模型诊断和验证环节依然保留。

那么，它是如何从权重中找到这些线索的呢？
首先看阅读能力。
研究人员训练了四个玩不同游戏的小网络，再将原始权重以文本形式交给Astra。这四个网络的架构、输入通道和动作选项完全相同。
结果，Astra正确识别出四个游戏名称：打砖块、乒乓、吃豆人、高速公路。
其中打砖块这一局，Astra是通过权重集中的位置进行推断的。

换成生成图像的扩散模型，它也能从权重中辨认出圆形、方形和三角形。
不过，细节上出了点差错：模型实际生成的是实心图形，它却全都读成了轮廓。
形状能看对，但填充方式没识别出来。

研究人员接着增加难度，拿出三个720万参数的小语言模型，分别用Python代码、日语罗马字和英语训练，再移除输入、输出层，只保留中间四个Transformer模块。
这样一来，连哪个数字对应哪个字符都不知道，模型也无法直接运行文本。Astra用Python分析权重，但不能给这些网络或其中的层输入数据、观察运行结果。
但它仍然在两轮尝试中识别对了三个模型所学的语言，还找出了全部归纳头。

从识别用途，到定位内部部件，再到修改行为，这条路径开始连贯起来。
另一个小车爬坡实验，则将修改效果变成了可直接观察的动作。
原本用PPO训练的网络总是往坡上冲，然后卡住；要过关，得先倒车拉开距离，再加速冲坡。
研究人员给出权重、场景描述和一段失败记录，Astra不用工具，一次回复写出补丁，只修改了3.5%的权重，就让小车在1024次测试中全部成功。
模型未能通过训练学会的动作顺序，被Astra直接写入了权重。

训练不再必要？

既然能往现有网络里补充逻辑，研究人员干脆又把要求往前推了一步：
给你一个权重全为零的网络，直接把它写成可用的。
在MinAtar小游戏实验中，Astra拿到游戏规则、源代码和指定网络结构。没有训练数据、损失值、梯度和工具，也不能先把网络放进环境里试跑。
它需要自己想好策略，再将策略转化为各层权重，一次回复完成提交。

最终，Astra生成网络的平均得分可达517.4。
作为对照，PPO训练1亿步得15.8，训练5亿步得25.3，直接超出20倍。

这项工作的亮点，是让一个现成的通用前沿大模型，围绕自然语言目标，自己分析和改写权重。
Astra本身积累的知识与能力，仍然来自它此前的训练；分析权重、生成代码、批量推理和评测，也都要消耗计算资源。
GPU暂时还不用准备退休。

但下次小模型表现不佳时，开发者或许真的能先多问一句：
这次，还需要重新训练，还是直接改权重就行？

参考链接：
[1]https://x.com/i/trending/2117328869283840499
[2]https://rikiyat.github.io/blog/weight-space-programming/
[3]https://x.com/rikiyatakehi/status/2117313742891327994

本文来自微信公众号“量子位”，作者：鹭羽，36氪经授权发布。
更多前沿AI动态，欢迎访问开云娱乐官方入口｜APP下载与网站指南。