最近AI圈一条订单消息,很多人看懵了。
消息显示:字节、阿里、腾讯等国内大厂,合计预订RTX PRO 5500超300万张,算上其他客户,总订单直奔600万张。
圈内早就给这张卡贴上标签:阉割卡。
论性能,它远不如B300、H200这些旗舰AI卡;国内国产GPU也越来越多,为什么大厂还在大批量抢它?
答案一句话:它刚好适合现在国内AI最急需的推理算力。
▶
AI分两种算力
训练冲榜,推理赚钱
很多人分不清训练和推理。
● 训练:喂海量数据,从零教会大模型,对显卡互联、极致算力要求极高,就是各大榜单卷成绩的场景。
● 推理:模型训好之后,我们每一次提问、生成文案、代码,都要跑推理。
训练是一次性投入,推理是7×24小时扛用户流量、产生收入的底座。
推理有个特点:任务可以拆开。不同用户的请求,单独分配给单张显卡跑,不需要一堆卡绑在一起协同。 这就是RTX PRO 5500的机会。
就像天阳科技官宣采购2万张同款显卡,用途写得很清楚:AI推理、渲染、仿真。
企业买卡,目标不是拿跑分冠军,是稳稳接住源源不断的用户请求。能扛住流量,就是好卡。
▶
真正杀手锏:84GB大显存
这张卡最值钱的,是84GB显存。
显存相当于显卡的“工作台”。模型、对话上下文、缓存数据,全都要放在这里。 显存不够,模型要么压缩降效果,要么拆分到多张卡,部署麻烦、响应变慢。
现在主流70B大模型,4位量化之后,加上缓存开销,很吃显存。84GB刚好可以单卡跑下很多热门量化模型,上线、调参、维护都简单很多。
当然差距客观存在:对比H200的HBM高带宽显存,它带宽低不少,这也是“阉割”说法的来源。
但对推理业务来说,优先看两件事:装不装得下模型、响应速度能不能满足客户。达标,就够用。
▶
国产卡很强
但生态迁移要时间
国产GPU硬件参数进步很快,这是好事。 但有一道绕不开的坎:CUDA生态。
这么多年,各大AI公司基于英伟达CUDA,写了大量部署代码、优化脚本,工程师也熟悉这套工具。 换新国产卡,不是插上就能跑。要反复验证模型精度、并发稳定性、延迟,整套适配往往要几个月。
虽然国产厂商也在做迁移工具降低门槛,但业务等不起。 云厂商、AI公司要快速扩容、上线服务,推迟几个月,丢掉的订单和客户,远省不出一张显卡的差价。
国产替代是长期方向,但企业要算账:业务能不能按时上线。
▶
最关键一点
高端强卡买不到
很多人会问:为啥不直接上更强的B300?
B300纸面性能碾压,但卡在出口管制。
海外管控规则对高端AI卡限制严格,B300不在放宽清单,正规渠道拿不到。灰色渠道少量拿货,没法支撑几百万规模的长期扩容,没有稳定供货和售后,风险极高。 之前已有多起高端AI显卡走私案件被查处。
而RTX PRO 5500,属于合规可采购的品类。同样要排队等产能,但至少有正规下单路径。
大厂疯狂采购5500,不是不支持国产,而是商业逻辑: 先把算力跑起来,承接用户、稳住现金流,企业活下来,才有资金持续投入国产算力生态。
它是现阶段的最优解,不是永久答案。 等到国产芯片生态成熟、交付稳定,这份采购选择自然会变。
对今天国内做AI的公司而言: 最好的算力卡,从来不是跑分最高的,而是能快速变现业务的那一张。

