AI 能否直接修改另一个 AI 的神经网络参数，甚至借此实现自我进化？
11 月 2 日，麻省理工学院（MIT）计算机科学与人工智能实验室（CSAIL）的一项研究在技术圈引发热议。研究团队让 GPT-6 Astra 直接分析并修改另一个 AI 模型 Qwen3.5-0.8B 的神经网络权重。在没有使用传统训练方法的情况下，Astra 仅调整了 0.016% 的参数，就让 Qwen 的数学测试成绩提高了约 6 倍。
此外，Astra 还能通过分析权重判断小型神经网络的用途，甚至从零设计并写出一套神经网络参数，在特定小游戏中击败经过大量强化学习训练的模型。研究团队将这种能力称为“权重空间编程”（Weight-Space Programming），相关话题迅速成为 AI 社区焦点。
这一成果被部分观点与“递归自我改进”（RSI）联系起来，被视为减少对传统训练依赖的新路径。然而，随着研究走红，技术社区也出现了质疑声音：实验提示词是否存在明确引导？该方法在复杂大模型上是否依然有效？这项研究究竟是扎实的技术突破，还是传播中的过度包装？
数学成绩提升背后的技术真相
该研究由 MIT CSAIL 博士生 Rikiya Takehi、Jayden Teoh、Alex Zhang 及助理教授 Omar Khattab 共同完成，目前已公开实验日志和代码。
图｜Omar Khattab（来源：MIT）
传统神经网络参数更新依赖梯度下降等优化方法，需准备数据并设计训练目标。而该团队尝试让 Astra 直接分析网络内部结构，自行判断并修改参数。在针对 Qwen3.5-0.8B 的实验中，研究人员禁止使用梯度信息和传统训练程序，但允许 Astra 进行有限次测试以获取反馈。
Astra 发现 Qwen 经常陷入重复推理循环：在最初 96 个练习中，有 85 个生成至长度上限仍无答案。经分析，第 15 层和第 19 层的部分参数与此行为有关。Astra 通过数学运算削弱相关方向的影响，仅修改了占总参数 0.016% 的 131,072 个权重。
修改后，Qwen 各项测试成绩显著提升：MATH-500 正确率从 7.9% 升至 48.1%，GSM8K 从 13.8% 升至 67.1%，IFEval 从 21.0% 升至 62.3%。
（来源：DeepTech 制图）
深入分析显示，成绩提升主要源于推理循环的减少。MATH-500 测试中，触及最大长度上限的比例从 93.0% 降至 33.1%，使模型原本具备的能力得以正常发挥。但在针对较少陷入循环的 Gemma 3 270M 模型的测试中，Astra 未能通过局部权重修改显著改善其表现。这表明，该方法目前更擅长修复特定行为问题，而非赋予模型原本欠缺的知识或推理能力。
自主性争议与方法论局限
Meta 研究员 Lucas Beyer 指出，系统提示词已引导 Astra 检查推理循环并限制简单解法，人类引导发挥了重要作用，不能简单视为 AI 完全自主排查故障。业界人士认为，该方法沿用了现有机制可解释性研究思路，主要区别在于由 AI Agent 自主执行。2024 年关于大语言模型“拒答方向”的研究已证实，干预特定表示方向可改变模型行为，MIT 此次采用的方向消融方法与之存在联系。
上海交通大学副教授陈明达认为，该方法扩展到大模型的可能性存在，但需区分“修复局部问题”与“创造新能力”。对于前者，因特定行为可能与低维内部表征有关，少量参数修改可能见效；但对于涉及多层协同计算的复杂推理，目前尚不清楚如何组织形成，直接修改权重的效果存疑。此外，大规模模型中行为分布广泛，局部修改可能破坏原有能力，可靠性需进一步验证。
从零编写神经网络：优势与边界
另一项实验要求 Astra 在不进行传统训练或不进入游戏环境试错的情况下，根据三款简化版 Atari 游戏的规则和源代码，直接生成能玩游戏的神经网络。
以打砖块为例，Astra 设计了预测球落点并控制挡板的逻辑，将其转换为神经网络参数。最终，Astra 生成的网络得分 517.4 分，远超经过 1 亿步 PPO 强化学习训练的模型（15.8 分）。即使 PPO 训练预算增至 5 亿步，Astra 在打砖块游戏中仍保持领先，尽管在其他两款游戏中被反超。
关键差异在于信息获取方式：Astra 直接利用游戏规则和源代码设计算法，而强化学习模型依赖试错。对于规则明确的游戏，直接编写控制程序本就可行。Google DeepMind 的 Tracr 项目及开发者 N8 Programs 的实验均表明，将程序编译为 Transformer 权重或直接编写小型神经网络已有先例。
业内人士指出，虽然 HyperNetworks 等研究历史悠久，但直接构造权重面临规模扩展挑战：计算成本高，且尚未证明优于传统训练。MIT 此次将任务交给通用大模型，但从小型游戏网络到具备复杂推理能力的大模型，仍有巨大距离。
模型可解释性的新工具
相比权重修改，Astra 直接读取参数以判断模型所学内容的实验更具应用潜力。研究人员让 Astra 仅通过分析小型 Transformer 中间层权重，成功识别出训练语言（英语、Python 代码、日语罗马字）及负责复制上下文的注意力头。
这意味着大模型可成为辅助理解神经网络内部机制的工具，替代部分人工编写分析代码的工作。普林斯顿大学博士生柴文浩及研究者 Chandan Singh 的实验也证实，Gemini 和 Claude 等模型同样具备通过权重识别网络功能、修复失效网络的能力。这为模型可解释性和自动化诊断提供了新方向。
从技术突破到舆论狂欢的思考
MIT 团队的工作验证了通用大模型在神经网络分析和修改方面的潜力，未来可能在模型诊断、行为编辑及审计领域发挥作用。然而，研究在传播中被赋予了过高期待，从“修改少量权重”迅速演变为“AI 自主进化”的叙事。
陈明达指出，AI 技术发展速度快，社交媒体传播速度远超学术验证速度。人们往往记住醒目的数字或宏大叙事，而忽略具体的实验条件和技术局限。研究人员、创业者、投资者和媒体各有诉求，导致早期研究容易被包装成新范式，淡化其局限性。
过度解读可能导致不合理的预期，若后续工作无法兑现，反而可能低估有价值的技术积累。但同时，社交平台的公开检验也让研究进展更加清晰。MIT 的研究与随后的争议共同构成了一次有价值的探索：既展示了新能力，也厘清了当前的局限。至于该技术能否推动 AI 实现持续的自我改进，仍需更多实验验证。
参考链接：
1.https://rikiyat.github.io/blog/weight-space-programming/
2.https://github.com/RikiyaT/lm_understand-logs
3.https://rikiyat.github.io/
4.https://huggingface.co/Qwen/Qwen3.5-0.8B
5.https://arxiv.org/abs/2406.11717
6.https://arxiv.org/abs/2301.05062
7.https://csinva.io/weight-space-programming-autoresearch/analyze/toy_examples/report.html
8.https://github.com/csinva/weight-space-programming-autoresearch
运营/排版：何晨龙
注：封面/首图由 AI 辅助生成