11月2日，麻省理工学院（MIT）联合团队的一项技术实验在社交网络引发近600万次关注。实验设定极具冲击力：在无训练数据、不运行反向传播的纯Python环境下，让OpenAI前沿大模型GPT-6 Astra直接读取并重写开源模型Qwen3.5-0.8B的底层高维张量。
结果显示，Astra仅修改了8亿参数中的0.016%（约13万个权重），便使阿里Qwen3.5-0.8B在MATH-500数学评测上的准确率从7.9%提升至48.1%。此外，Astra还在无训练样本前提下，直接生成了能运行简化版雅达利游戏及9×9围棋的小型神经网络权重。
博客署名作者之一、斯坦福学者Omar Khattab随后提出反问：“如果大模型能直接写权重，梯度下降等传统方法还剩什么位置？”
技术爱好者将此视为模型“递归式自我改进”的起点，预言预训练集群可能被“权重编译器”取代；但Meta及各大开源社区研究员则指出该报道存在夸大嫌疑。这场争论将AI阵营分为两派：一方视其为神迹，另一方则认为是学术营销。
舆论分歧：神迹还是营销？
激进派与保守派的观点截然对立。支持者兴奋于“以极小代价颠覆庞大算力”，认为Astra展现了高维参数层面的诊断与重构能力，高阶模型可充当低阶模型的“医生”，是实现自动化自我迭代的基石。
然而，严谨的代码分析揭示了另一面。Meta核心研究员Lucas Beyer指出，实验并非让Astra自行探索，人类在提示词中给予了极强的定向引导，明确要求排查死循环并禁止投机取巧。
研究者Yunfan Zhang查阅实验日志后发现，Astra仅在长篇推理模式下进行了一组开关对照，识别出Qwen推理链的死循环问题并执行定向清除。他认为实际情况远非宣传中“准确率提高7倍”那般戏剧化。
另有工程师指出，用大模型修改权重类似于人工反汇编编译好的二进制程序，并不具备超自然属性，传统算法研究员通过激活热力图同样可实现类似操作。
本质解析：手术刀而非点金术
Qwen3.5-0.8B数学成绩的提升，本质上是一次精准的“线路排障”。Astra通过理解内部逻辑，切断了导致无限死循环的路径。下图展示了Astra在50次试跑中逐步修改权重的过程，绿线为修改后模型的正确率，灰线为原模型。
首先，这是一个已知缺陷。通义千问官方文档曾指出，0.8B这种微型模型若强行开启思考模式，极易陷入自我重复与逻辑死循环，因此默认关闭该功能。
在MIT实验中，上下文上限被设为32,768个token并强制开启思考模式，导致原版Qwen在MATH-500测试中，高达93%的题目因耗尽长度被截断，而非真正算错。
Astra的操作本质是特征消融（Abliteration）：
对比定位：Astra提取正常推理与死循环时的内部激活状态，发现深层（第15层与第19层）存在将信号推向死胡同的几何方向；
权重投影：从这两层输出权重矩阵中各选取64列，通过线性代数变换减去该方向；
解除闭锁：循环方向消解后，推理链条得以顺利结束，中位长度稳定在约9,000个token。
数据显示，在1,152道测试题中，改动后多答对的579道题里，有576道原本是因超时截断得零分的题目；而对于原本能完成的题目，修改权重后的正确率并无变化。
对照组谷歌Gemma 3 270M进一步证实了这一点。由于Gemma不存在恶性循环缺陷，其错误多为实质性的计算或逻辑错误，ASTRA对其反复修改参数，数学成绩始终在6.8%至7.7%间徘徊，毫无起色。
结论明确：这并非赋予模型新智力，而是修复了导致进程被杀死的死循环bug，让原本已算出的结果得以正常输出。
从零构建：局限性显著
除修改Qwen外，另一项实验让GPT-6 Astra从零编写神经网络权重，试图击败传统强化学习（PPO）。Astra直接生成权重，用于三个MinAtar雅达利游戏（打砖块、Seaquest、Asterix）及9×9围棋网络。
然而，这些网络的体量极小：
三个游戏网络参数量仅约2万个；
最大的9×9围棋网络参数量仅148万个；
相比之下，Qwen3.5-0.8B参数量是围棋网络的540倍，游戏网络的4万倍。
Astra能“手写”这些微型网络，前提是任务规则极其干净、数学映射高度确定。例如打砖块游戏中，矩阵逻辑严丝合缝。一旦切换至规则模糊的游戏，其得分立即暴跌，不及传统强化学习模型。
此前研究也表明，大模型在处理排序、求和等确定性算法任务时表现优异，但在面对语义充满不确定性的自然语言理解时，“权重生成”会因评测泄露或维度爆炸而失效。
将规则清晰的小游戏转化为两万参数的玩具模型，本质上是将逻辑代码翻译为矩阵格式，这与构建通用大模型截然不同。人类语言和现实世界的复杂常识无法被穷举为明文规则，因此海量数据训练仍是不可替代的核心路径。
行业启示：权重可读性的突破
尽管不能取代传统训练，但该研究仍具重要价值，因为它揭示了神经网络高维参数正逐渐失去“不可读性”。
过去，深度学习如同黑盒，依赖随机梯度下降摸索。MIT实验证明，大模型具备直接读取权重并识别功能结构的能力。这意味着未来在模型审计、后门检测、能力编辑和局部缺陷修复方面拥有巨大潜力。
一方面提升了可解释性，无需运行模型即可理解其行为；另一方面降低了小模型调优成本，便于针对特定领域进行快速优化。
MIT团队提出了更长远设想，包括不依赖大量数据的能力增删、模型间功能模块迁移及递归式自我改进。虽然这些方向尚未经充分验证，但已勾勒出不同于传统训练的研发思路。
未来模型研发流程中，或许会出现一个新角色：能够直接读懂权重、诊断缺陷并尝试修复其他模型的“AI研究员”。
声明：本文为AI前线原创，不代表平台观点，也不构成投资建议，未经许可禁止转载。