11 月 2 日，麻省理工学院计算机科学与人工智能实验室的研究者 Rikiya Takehi 在博客发布一项新方法，名为权重空间编程。团队让 OpenAI 的 GPT-6 Astra 直接读取并修改阿里通义千问 Qwen3.5-0.8B 的神经网络权重，只调整约 0.016% 的参数，就把该模型在 MATH-500 数学基准上的成绩从 7.9% 提升到 48.1%。
先定位再动手
研究人员发现 Qwen3.5-0.8B 在回答数学题时容易反复生成相同内容，大量回答耗尽 32768 个 Token 的长度上限，最初 96 次测试回答中有 85 次触到这一上限。团队给 GPT-6 Astra 提供了一个可以读取和修改权重的 Python 环境，允许它使用 GSM8K 和 MATH 训练集里的练习题做有限次数的前向推理。Astra 随后定位到第 15 层和第 19 层 MLP 写入的一种重复方向，修改这两层的部分权重以削弱引发推理循环的信号。
最终改动落在 131072 个权重上，占该模型约 8 亿个参数的 0.016%。把权重当作可编程对象这一思路，与qgpu 把 GPU 编进 Qwen3.5-2B 权重属于同一类尝试，只是落脚点从编译换成了改参数。在允许 50 轮前向推理的实验中，MATH-500 成绩从 7.9% 升到 48.1%，GSM8K 从 13.8% 升到 67.1%。IFEval 指令遵循成绩从 21.0% 升到 62.3%，约为原来三倍。数学测试中因生成长度触顶而未能完成回答的比例，从 93% 降到 33.1%。
边界与对照
整个过程没有使用梯度下降、反向传播或传统训练循环来更新参数，但仍依赖 Python 环境分析与最多 50 轮前向推理。团队用 Gemma 3 270M 做了对照，因该模型原本很少出现推理循环，数学成绩最多只从 6.8% 升到 7.7%。研究者的结论是，权重空间编程能消除模型已有能力发挥时遇到的障碍，不一定能凭空创造原本不具备的能力。
这项研究还让 GPT-6 Astra 仅通过读取权重识别模型训练过的游戏、判断小型语言模型的训练语言，以及直接写出能运行游戏的神经网络。研究由 Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 共同完成。
游戏识别与小型模型验证
团队训练 4 个架构相同、各含 17253 个参数的网络学习 Breakout、Pong、Pac-Man 与 Freeway，输入 10 乘 10 网格输出 5 种动作。训练结束只把权重交给 Astra，不告知游戏名也不许运行网络，它却认出全部 4 款，依据是球拍沿屏幕底部移动留下的参数痕迹。
另有 3 个约 720 万参数的字符级 Transformer 分别学习 Python、罗马字日语和英语，移除 Embedding 与输出层后只剩中间 4 个 Block，Astra 找到的突破口是复制历史文本的 Induction Head。
延伸阅读
- OpenAI Astra for Law 法律平台上线：索引 2.3 亿 URL，验证集正确率 54.0%2 月前
- qwenGPU 把 45 层 GPU 编进 Qwen3.5-2B：49 kernel 全对3 天前
- MIT 研究：AI 可向人类植入虚假记忆，受试者对伪造事件深信不疑2 周前
- 央视揭露 AI 语音诈骗新套路：一台电脑日外呼 20 万通，两月千人被骗1 月前
继续读
同一批更新里这几篇值得一看：
- GPT-6 Astra 改 Qwen 权重 0.016%：数学分拉到 48.1%2026-11-05
- OpenAI 用 GPT-6 Astra 一周造硬件：跑分 0.8752026-11-04
- qwenGPU 把 45 层 GPU 编进 Qwen3.5-2B：49 kernel 全对2026-11-02