大数跨境

大佬开始下沉了:做 AI 底层的人,接下来靠什么活

大佬开始下沉了:做 AI 底层的人,接下来靠什么活 华南跨境电子商务研究院
2026-11-03
7

全文 5243 字阅读约 11 分钟

本 文 结 构

01先把"底层"是哪一层说清楚

02影响:三条链子在往下传

03危机:四件正在发生的事

04机会:五个还开着的窗口

05结论:如果你在这个行业里,该怎么重新定位

2026 年 8 月,有个人从阿里离职了。

他在阿里干了 11 年,做到了技术岗的最高一档,管的是"帮别的公司训练 AI"的那整套系统——你可以理解成一个公共的大工具箱,别的公司不用自己从零搭,直接拿来用。

他要创业做什么?不是做 AI 产品,不是做聊天机器人。

是做"更便宜、更省事地训练 AI"的那套底层工具。

同一个月,腾讯管芯片和算力的负责人也走了。

再往前几个月,华为、阿里、腾讯、字节,一批负责 AI 核心业务的人陆续离开。

国外也一样:在谷歌待了 27 年的杰夫·迪恩,AI 圈最有名的工程师之一,带着三个老搭档自己开公司,谷歌母公司还投了钱。

这些人的共同点很简单:不是往上做产品,是往下沉。

打个比方。开饭馆,前几年大家都抢着开临街的店,因为离客人近、来钱快。现在这批最会做菜的人,回头去建中央厨房、去包菜地、去修冷库了。

为什么要往回走?这就是这篇要讲的事。

01|先把"底层"是哪一层说清楚

不然后面全看不懂。AI 这个行业,简单分三层:

·最上面一层:你手机里用的那些 AI——聊天、画图、写文案。这是产品。

·中间一层:用 AI 做出来的各种行业方案,比如帮医院看片子、帮工厂排产。

·最下面一层:芯片、机器、机器之间的连线、降温、供电,还有让这一大堆东西协同干活的软件。

最下面这层,就叫"AI 底层"。 它不直接卖给普通人,但没有它,上面两层一个都跑不起来。

这一轮和 2023 年那次,不是一回事

2023 年那波,大家全挤在"做一个什么都能干的通用 AI"上,比谁模型大、比谁考试分数高,个个都想当"中国版 OpenAI"。

2026 年这一轮,几乎没人再碰那个了。

今年一季度,中国 AI 领域有近 600 笔融资,总额超过 1100 亿元,比去年同期涨了 185%。钱很多,但去处变了:

· 一部分人去做有身体的 AI,也就是机器人;

· 一部分人去做用 AI 搞科研,比如制药、材料;

· 还有一部分人,直接钻到最底下那层——芯片、机器、训练平台。

往下沉的,其实是两拨人

第一拨,从大厂出来的技术负责人。

他们带走的不是一个人,是一整个班子。原来一起干活的、一起踩过坑的,整组一起走。这一点后面还会说,很关键。

第二拨,国家队。

比如粤港澳大湾区大数据中心,它建的是一个公共底座:一个数据流通平台、一个专门负责"统一分配算力"的调度平台,再挂上一堆应用。

公开资料说,它接入的算力有 8350P。P 是算力的计量单位,1P 大概是每秒一千万亿次运算——8350P,你可以理解成一座很大的算力工厂。

这拨人不下场做 AI 产品,他们做的是"路"和"规矩":算力怎么分、数据怎么合法地用、谁能用、多少钱一度。

那"下沉"到底改变了什么

一句话:它不是在底层多添了几个竞争对手,它把"什么算本事"重新定义了一遍。

以前,本事是"你能训出一个模型"。

现在,本事是"你能把一千块芯片连起来当一台电脑用、还不死机"、"你能让同一件事的成本只有别人的六成"。

还拿饭馆打比方:以前比谁会做菜。现在比谁能把一百口灶同时点着、不出一次火警、菜还按时端上桌。

大佬往下沉,沉的从来不是你的岗位,是价目表。

02|影响:三条链子在往下传

钱在往"确定"上砸

今年二季度,腾讯买设备建机房花了 528 亿元,接近去年同期的三倍;阿里 676 亿元;百度 114 亿元,涨了两倍多;字节把全年的预算上调到 2000 亿元左右。四家加起来,一年涨了八成以上。

关键不是数字大小,是钱怎么花。

这里得先插一句,不然看不懂后面的:AI 有两个动作。

训练,是"教它",一次要很多机器一起算很久。

推理,是"用它",用户每问一句话,它就得算一次。

训练像上学,推理像上班。

字节干了一件事:把"上学用的芯片"和"上班用的芯片"两条供应链完全拆开。

上学那一头,用国产高端卡;上班那一头,另找一家谈专用的,规模至少 5 万颗。

同时,用超过 400 亿元的单子,把某款国产卡近一半的产能先包下来。

这意味着什么?

大厂不是在"买算力",是在"包场"。

订单一包就包到 2027 年。小公司去现货市场买,只剩两头:要么买最贵的新货,要么买最便宜的旧货。中间那段最好用的,被长约吃掉了。

传到做底层的团队身上,竞争就从"谁技术好"变成了"谁能拿到货"。

你方案再好,客户要的机器排到明年下半年,他就走了。

被搬走的不是人,是一整个班子

字节有个 AI 研究团队,一年走了近 70 个技术骨干,其中近 30 个去了腾讯。

华为那边更彻底:到今年 7 月,至少 15 位前高管出去做机器人公司,其中 9 位是华为招的顶尖应届生,12 个人自己开了公司。

这里有个容易忽略的点:走的不是一个人,是一个磨合好的组合。

一支 AI 团队真正的家底,不是简历,是那群人一起踩过的坑:

某个参数为什么慢了 30%、某种误差为什么跑到第七天才崩、上次机器集体罢工是怎么查出来的。

这些人一起走,等于把三年的经验打包带走了。

留下来的人要面对两件事:一是空出来的活,二是更狠的考核——因为老板刚花了两倍的钱去包产能。

估值不再看技术,看名字

最扎眼的一个例子。

阿里原来负责通义千问的技术负责人,今年 3 月离职,8 月宣布创业。

第一轮机构投资就是 2.2 亿美元,投完公司估值 20 亿美元。

公司没有产品,没有收入,工商注册刚满三个月。从第一次见面到签下投资协议,28 天。

同一批人里,华为盘古负责人的新公司,成立两周估值破 1 亿美元;腾讯一位科学家的新公司,第一轮拿到约 4 亿美元估值。

这套定价跟"技术先不先进"关系不大,它买的是确定:

这个人做过从零到千万用户的全流程,所以他做的事,失败的概率被认为更低。

问题就来了:如果你没有那个名字呢?

03|危机:四件正在发生的事

融资的门槛换了一套评分标准

以前技术团队还能靠"我们的东西比开源的快 40%"拿到第一笔钱。

现在投资人的算法变了。他们更愿意为一个"已经验证过的人"多付钱,因为底层技术验证太慢,他们看不清。

结果是一道很现实的坎:没有名字的团队,不是难度涨了两成,是换了考卷。

你原来准备的那套材料,现在没人看得懂,也没人有耐心看。

最难受的是中间那层

这批人流动里,最不好受的不是顶尖的,也不是刚入行的。

顶尖的人被整组挖走,还带着团队。

新人便宜、能熬、可塑。

中间这层——能独立扛一个模块,但还不到能定一条路线的人——处境是:不够贵到被挖,不够便宜到被留。

像三明治中间那层,上下都有东西压着。

更麻烦的是,他们的本事跟原来那台机器、那个团队绑得太紧。离开那个环境,很多经验会突然不好使。

技术路线被别人写进了进货单

看两个数。

今年上半年,中国数据中心里"非 GPU 加速器"的出货量涨了近 80%,第一次超过 GPU。

GPU 是英伟达那类通用加速卡;非 GPU,就是国产专用芯片这一类。

同期,华为昇腾在国内 AI 芯片拿到约 28% 的份额,跟英伟达的差距缩到 6 个百分点。

这不是口号,这是进货单变了。

进货单一变,技术路线就被重写了:上学用高密度整柜,上班用专用卡,中间靠软件把不同品牌的卡统一调度。

连带的东西全被抬起来了:

·液冷——用水直接给机器降温,因为风扇吹不动了。它的普及率从 2021 年不到 3%,到 2026 年预计 37%。

· 一台整柜的"内部连线速度"和"散热能力",开始跟里面装什么芯片一样重要。

· 连变压器都成了瓶颈,广东、江苏的厂满产,数据中心订单排到 2027 年。

对做底层的团队来说,这是最隐蔽的危机:

你的技术如果不在别人的进货单上,你就没有客户。

不是产品不好,是没人会为了你单独开一条采购流程。

重资产正在变成重负债

过去三年最好卖的故事是"我手里有卡"。现在这个故事反过来了。

· 全国"智算中心"——名字听着唬人,其实就是专门算 AI 的机房——平均只有约三成的时间在干活;

· 三四线城市新建的国产算力集群,只有 10% 到 22% 在干活;

· 有的国产芯片集群,七八成时间都是闲着的;

· 高端卡(H100)的租金,从 2024 年初每小时 7 美元以上,跌到今年年中约 3.4 美元;

· 有数据中心的低端机柜,月租从 3 万元掉到不足 6000 元。

更麻烦的是时间对不上:

高端卡大约一年换一代,一座这样的机房,投的钱要 5 到 8 年才收得回来。等成本该收回的时候,手里的卡已经落后两代了。

而且这生意比囤芯片难熬。芯片能压仓库等涨价,机房不行。

机器闲一天,设备贬值的钱照算、电费照付,那一天就是彻底作废的一天。

监管也在收紧:今年前 9 个月,沪深交易所针对"算力"这件事发了 42 份以上的问询函——就是发函问一句:你这笔生意靠谱吗,钱从哪来,客户是谁。已经有公司因为 36.9 亿元的算力大单信息披露违规被立案。

算力不是资产,是会过期的东西。 它像生鲜,不像黄金。

04|机会:五个还开着的窗口

做"换芯片也换不掉"的工程

国产芯片单颗的性能还有差距,这个短期补不上。但它能用"整体工程"补回来:

把很多卡装进一整柜、把卡和卡之间的连线做到最快、用水降温、管好供电、写好调度软件。

这些东西有个共同点:光换芯片解决不了,必须有人动手做工程。

液冷从 3% 涨到 37% 这条线,就是这个窗口的形状。

卖"把机器用满"的能力

行业里有个算法:实际能用的算力 = 标称算力 × 效率 × 装满率。

现实是效率大概 0.6,装满率大概 0.5。一乘,标称 100% 的算力,真正用上的只剩 30%。

效率为什么低?卡和卡之间连线不顺。丢 0.1% 的数据包,算力就能掉一半。

装满率为什么低?客户的任务不够多,机器空在那儿。

那 70% 的浪费,就是产品。

当一个行业平均只用三成的时候,"帮你从三成做到五成",比"再建一个新机房"值钱得多。

吃国产链条"还在爬坡"的红利

昇腾只有 28% 的份额,说明它的生态还没成熟。

爬坡期最缺的不是芯片,是配套的工程活:不同品牌的芯片怎么混着用、模型怎么从一个品牌搬到另一个品牌、两边算出来的数不一致怎么调平、机器半夜罢工怎么自己恢复、几千上万块卡怎么保证不掉线。

这些活不好看,但是刚需,而且只有真正管过大机器的人才干得了。

大厂能把产能包走,包不走这些经验。

被整体收编

这轮下沉有个副产品:想买团队的人变多了。

国家队和平台方要交东西,缺能落地的团队;大厂补短板,缺能直接上手的团队。

一个配合过三年、踩过坑、有交付记录的底层团队,是最容易被整包买走的。

被收编不是失败。在一个每年投入涨八成、产能被长约包死的市场里,有人愿意为你的"确定"付钱,本身就是一种退出方式。

跟着需求,往"用"的那一端走

结构已经反过来了。

今年二季度,租算力做"推理"——也就是让 AI 干活——的收入占 58.2%,第一次超过"训练"的 41.8%。到 6 月,全国在用的智能算力总量比去年涨了 177%,而"用"这一侧涨得比"教"快一倍多。

"用"的玩法和"教"完全不同:不比谁的峰值高,比每说一个字要花多少钱、多久回一句话、同时能服务多少人、会不会掉线。

这是更贴近生意的一层,也是底层能力最好变现的地方——因为客户算得很清楚:每百万字省下来的钱,都是净利润。

再往下还有一层:面向小微创业者的便宜算力和数据服务正在铺开。

这部分单笔小,但人多,而且极缺"帮我把这套跑起来"的人。

05|结论:如果你在这个行业里,该怎么重新定位

三句话说完

第一,大佬下沉不是来抢你的活,是来重新划"什么算本事"。

"你能不能训出模型"已经不是本事了;"你能不能让一千块卡稳定地当一台机器用、成本只有别人的六成",才是。

第二,比的不再是"更强",是"更满、更稳、更省"。

前三年比谁跑分高,接下来比谁的单位成本低、谁的机器不宕机、谁能把国产卡接得跟原厂一样顺。

第三,别人的进货单,就是你的技术路线图。

上学用整柜、上班用专用卡、配套靠水冷和连线——你不在那张单上,技术再好也没有采购入口。

给个人的三个动作

·把"我调过什么模型"改成"我交付过什么系统"。

写清楚:多大集群、稳定性多少、成本降了多少、搬家用了多久。这些能被打分,模型名字不能。

·补三块工程短板:不同芯片混着调、两边算的数得调成一致、机器出故障能自己定位和恢复。

这三块是国产链爬坡期最贵的能力,也最难被新人快速补上。

·把自己挂到一个"有真实客户"的底座上。

不管是国家队平台、行业机房,还是专门做"用"这一侧的优化,先有客户,再谈理想。

没有客户的技术,这轮里没有价格。

一句收束

这一轮最贵的不是卡,也不是模型,是——当所有人都在往下沉的时候,你手上有没有一块别人搬不走的东西。

“卡会过期,模型会开源,团队会散。不会过期的,是你把一堆不确定的硬件,变成一条能按时交货的确定性的能力。

资料与口径说明

· 高管离职与创业信息:综合 36 氪/投资界及行业公开报道整理,涉及阿里、腾讯、华为、字节、Google 等公开披露或媒体报道事项;具体估值与融资额以官方与投资方披露为准。

· 算力利用率、租金、回收期、监管问询数据:引自钛媒体/虎嗅相关报道及其中所引 IDC(一家市场研究机构)报告、《每日经济新闻》、上市公司公告。

· 大厂买设备建机房的投入、以及国产芯片数据:引自公开财报汇总及新华财经等媒体报道。

· 大湾区大数据中心相关:引自粤港澳大湾区门户网、南方+、中国经济新闻网及公开资料。

·本文为行业观察,不构成投资建议;政策与数据具时效性,发布前请再核一次原文。

〔作者署名 · 杨巍  华南跨境电子商务研究院〕



如果这篇对你有用,点个「关注、收藏、转发」
让更多做出海的人看到


【声明】内容源于网络
0
0
华南跨境电子商务研究院
1234
内容 38
粉丝 0
华南跨境电子商务研究院 1234
总阅读1.2k
粉丝0
内容38