黄圣变黄贼
🔥之前AI芯片Jalapeño发布时，OpenAI科学家曾指控：英伟达GPU沉迷跑分参数，让超90%硬件性能白白浪费！
现在，借助AI Coding技术，老黄的骚操作被网友扒出来！
事情是这样的，最近开源AI推理引擎Strata以极限榨干硬件性能在全球科技圈大火，动辄在个人电脑上跑出赶超云端大模型的输出token速度！
海外社交媒体X上，一群技术大拿开始自发将Strata适配到不同硬件上，然后大家惊讶地发现，英伟达竟然故意大幅限制自家显卡的AI性能近十倍！
具体操作是：
英伟达人为将20～50系列显卡的AI专用矩阵乘法运算速度，降低50～80%！
除此之外，故意让大模型每次运算时，通过闪存重新加载验证部分参数，造成大模型输出速度降低近90%！
X用户@tvytlx总结得很清楚：RTX 3090 Ti和A6000其实是同一块GA102硅片。区别不在核心数量、不在显存，甚至不在功耗墙，而在于一个标志位——一个写着FULL_SPEED，一个写着HALF_SPEED。
Reddit上有人翻了大量代码后还原了事情真相：从20系到50系的消费级游戏卡，NVIDIA在FP16、BF16做矩阵乘再累加到FP32这条路径上，故意把指令发射速率砍掉一半。40系和50系连FP8也砍了。专业卡和数据中心卡则是全速。
被砍的，恰好是AI最吃算力的那几块：
- 训练、微调LoRA
- 文生图、文生视频这类扩散模型
- 大模型的prefill（读长prompt那一步）
一个人跟模型聊天、一个字一个字往外吐，基本没影响——那一步主要卡显存带宽。
有人实测，自己的RTX 6000 PRO核心数只比5090多10-15%，prefill却快了70%左右。差距就在这里。
GitHub上已经有开源项目gpu-unlock（Zagitta维护），用一个Linux内核模块，在NVIDIA驱动接管之前抢先把速度选择器改掉。不需要刷vBIOS，也不需要每次驱动更新后重新打补丁。
3090 Ti实测数据相当夸张：
-
BF16：87.5 → 157.4 TFLOPS（约+80%） -
TF32：42.6 → 82.6 TFLOPS（接近翻倍） - FP16也有明显提升
社区反馈里，3080、3070、3060 12GB等卡也有60-80%的矩阵乘收益。vLLM长上下文prefill能快14-36%，ComfyUI生图大概快47-59%。token生成（decode）基本不变，因为那是带宽瓶颈。
40系已经有人在Windows上跑通AD103，并开始往其他型号移植；50系更难，NVIDIA加了熔丝专门读这个标志位。有意思的是，50系的FP4似乎没被砍。
仅仅过了一天，又有大神发现英伟达的另一项人为性能限制！
X用户@MinLiBuilds发布推文，揭露了自己仅改造英伟达显卡底层软件两行代码，就直接突破了官方的性能限制！
一张魔改RTX 4090 48GB，跑DeepSeek-V4.1-Flash（ISTA GSQ-RCO IQ2_XXS，2.00 bpw），用Strata官方引擎。默认配置下生成速度只有5.35 tok/s，首Token等待动辄三十多秒，长提示词甚至超过100秒。折腾一上午查日志，发现真正的瓶颈居然是SATA SSD。
专家缓存命中率明明已经89.4%，但每生成一个Token，系统仍要从SSD读取约77.7 MB专家数据。SATA盘带宽就那么点，天花板自然卡在6 tok/s左右。机器有256GB内存，作者只改了两个参数：
--ssd-cache 0 --mmap-experts off
把约91.7GB的CPU专家完整驻留进内存，不再频繁读盘。
结果直接起飞：
-
生成速度 5.35 → 42.64 tok/s（约8倍） -
首Token等待 33.36 → 0.66秒 -
长提示词首Token 102.69 → 11.79秒
冷启动加载时间翻倍（约552秒），但日常使用体验完全变了。
这不是玄学超频，也不是改模型精度，纯粹是把专家权重从“磁盘流式”改成“内存驻留”。MoE模型的特性决定了：总参数巨大，但每个Token只激活少量专家。Strata这类引擎会把专家分层放在GPU缓存、系统RAM、甚至SSD上。默认配置在内存充足时仍可能走mmap/低RAM路径，导致即使命中率高，依然有大量磁盘I/O拖后腿。
内存对MoE真的太重要了。作者自己的总结很实在：这速度和首Token延迟目前还没到“生产可用”的128K/256K长上下文级别，但已经证明单卡4090 48GB的潜力远没挖完。接下来他计划继续压榨单卡极限、研究草稿模型加速、开大KV Cache、以及多卡测试。
你觉得这是英伟达为了保护硬件，而“不得不”写下的保护机制？
NO！
对GPU寿命有影响吗？
几乎没有额外伤害，甚至更友好。
改动主要发生在CPU/内存与SSD之间，GPU侧还是正常的推理计算。速度从5 tok/s拉到42 tok/s，意味着显卡更“忙”、单位时间做更多有效计算，但并不是超频或违规操作，只是去掉了空等磁盘的浪费。
真正伤显卡的是长期高温满载、散热不良、电源不稳。只要温度控制在合理范围，这种优化属于正常推理负载。反过来，之前每Token狂读SATA SSD，对硬盘寿命反而不利。现在几乎不读盘了，SSD更轻松。
会引发安全问题或严重错误率吗？
不会。
这只是权重存放位置和加载方式的变化，计算逻辑、量化精度、激活专家的路径完全一致。没有剪枝、没有专家替换、没有降低精度。正确加载到内存后，输出结果与全内存模式一致，不会引入额外幻觉或数值错误。
唯一要注意的实际风险是内存占用大幅上升。如果机器内存不够，会出现OOM或严重换页，反而更慢甚至崩溃。作者有256GB，所以没问题。长上下文时KV Cache也会继续吃内存/显存，需要再调。🚀
老黄真是太狠了！🌶️
阅读更多：
文末点击下一篇或者扫码加入学习群，即可学习前沿AGI常识。
欢迎大家关注AI顿悟涌现时，快速入门当下最热的AI大模型前沿。
AI顿悟涌现时
AI顿悟涌现时是红绿旗下关注新技术的内容品牌。 AI顿悟涌现时关注前沿技术的发展应用，深度解读新技术对商业模式和社会形态的变革。 大模型商业技术及通识，筹备开课，欢迎有授课能力的朋友合作，欢迎有兴趣的朋友报名一起学习。相关优质内容将会发布在下方动图内微信公众号▼▼
