大数跨境

黄仁勋的英伟达33年。

黄仁勋的英伟达33年。 AINLP
2026-11-13
0
导读:致敬!

1993年,黄仁勋离开LSI Logic,和Chris Malachowsky、Curtis Priem一起创办英伟达。

两位合伙人来自Sun。三个人做过工作站芯片,这次想把3D图形带进普通PC。

他们常在加州一家Denny’s餐厅碰头。点一杯能无限续的咖啡,就可以坐上几个小时。黄仁勋年轻时在这家连锁餐厅洗过碗、端过盘子,如今坐在餐桌边,讨论的是自己的公司。

1994年的黄仁勋 来源 Sequoia Crucible Moments

创业伊始

他们买来一台Gateway 2000,拆开电脑,开始学习DOS,研究PC市场。

英伟达早期办公室旧址 Sunnyvale 来源Sequoia

英伟达早期办公室旧址 Sunnyvale 来源Sequoia

后来,二十来人的团队在一间小办公室里做出了第一款芯片NV1。

1993年 联合创始人Curtis Priem在办公室玩游戏 来源Sequoia

图形、视频、音频,NV1把一堆功能装进同一块芯片。客户想要的却是又快又便宜的3D图形。按照黄仁勋在Sequoia访谈中的回忆,交给Diamond Multimedia的25万枚NV1,约24.9万枚退了回来。

公司还在替世嘉开发下一代芯片。偏偏此时,微软DirectX推动的三角形渲染路线,和英伟达押注的方案不同。

继续履约,要在旧路线上再花两年;放弃合同,公司又会断粮。

黄仁勋去找世嘉,请求解除开发责任,同时保留合同款。世嘉同意帮忙,英伟达才有时间重新做一颗芯片。

这颗芯片就是1997年的RIVA 128。

过去,芯片回来后再写软件、找Bug、改设计,可能又要一年多。这次,公司只剩一次流片的机会。

团队从一家正在倒闭的公司买来一台冰箱大小的仿真设备,在真正的芯片回来之前,先运行、验证软件。RIVA 128一次流片成功,上市后的前四个月卖出100万枚。

1999年1月22日,英伟达在纳斯达克上市,发行价每股12美元。这是当年的价格,此后公司经历过多次拆股。

同年,GeForce 256登场,英伟达把它称为GPU。

2000年3月,微软选中英伟达,为第一代Xbox提供图形处理器。同年12月,英伟达收购了老对手3dfx的核心图形资产。

GeForce 256显卡实物 来源 Sequoia Crucible Moments

提前十年布局CUDA

2004年,Ian Buck从斯坦福毕业,加入英伟达。他在学校做过一个叫Brook的项目,研究怎样用接近C语言的方式,让GPU处理图形之外的计算。

那时,研究者已经看中了显卡的并行能力。麻烦在于,他们得把计算问题塞进图形编程接口:原本想做矩阵运算,却要按处理图像的方式组织程序。

2006年,GeForce 8800与CUDA架构亮相。第二年,CUDA的编译器、开发工具和示例陆续向开发者开放,1.0版正式发布。

程序员可以用C语言编写并行计算程序,调用GPU,身边还有运行时、线性代数库、快速傅里叶变换库。英伟达开始同时维护硬件和一套计算工具。

2007年6月,公司推出Tesla计算产品线。有插进电脑的计算卡,也有装着多块GPU的桌边设备和机架服务器。计算卡上已经没有显示器接口。

2007年 NVIDIA首席科学家David Kirk展示Tesla GPU服务器 来源PC Watch当年报道

黄仁勋后来在Sequoia访谈中讲过一次拜访。一位台湾量子化学研究者拉开柜子,里面一排排摆着GeForce,旁边是家用风扇。研究者用游戏显卡,搭出了自己的超级计算机。

2008、2009年前后,吴恩达和学生也开始用GPU训练神经网络。Ian Goodfellow当时还是本科生,帮他在宿舍里搭起GPU服务器,用于早期深度学习实验。

CUDA刚刚铺开,英伟达的主营业务却出了问题。

部分上一代芯片使用的封装材料组合存在缺陷,公司在2008年7月计提1.96亿美元,用于客户维修和更换。随后,金融危机冲击了电脑市场,维修成本也继续增加。

2007年下半年至2009年1月,股价从39.67美元的高点跌到5.75美元,跌去约85.5%。

游戏和图形业务还得继续竞争,CUDA也没有停。编译器、计算库、开发工具需要工程师持续维护,支持研究者还要招人、学习新技能。

黄仁勋在访谈里回忆,这次转向把公司的注意力从原来的游戏和图形业务分走了。多伦多Hinton的实验室、纽约LeCun的实验室陆续联系英伟达,研究者的使用和反馈,成了这条新路线早期能看到的进展。

2011年,Ilya Sutskever说服Alex Krizhevsky,用神经网络试试ImageNet。

Krizhevsky已经为较小的CIFAR-10数据集写过CUDA卷积网络代码。他把cuda-convnet扩展到多GPU,开始在更大的ImageNet上训练。

电脑放在父母家的卧室里,里面装着两块NVIDIA显卡。接下来一年,他不断调整网络、重新训练。

2012年,Krizhevsky、Sutskever和Geoffrey Hinton的AlexNet以显著优势赢下ImageNet图像识别竞赛。

训练AlexNet所用的家用电脑 图片由多伦多大学提供 经Computer History Museum展示

进军智能手机

在研究者拿显卡训练神经网络的那几年,英伟达还在追赶另一个市场:智能手机。

Tegra把ARM CPU、GeForce GPU和视频处理等功能放进一颗芯片,面向手机和平板。PC里积累的图形能力,要被装进一台靠电池工作的设备。

2011年CES,黄仁勋坐在台上,手里拿着搭载Tegra 2的LG Optimus 2X。他打开相册、浏览网页,把手机画面送上大屏幕,展示高清视频和游戏。

2011年CES 黄仁勋演示搭载Tegra 2的LG Optimus 2X 来源ASCII.jp当年报道

英伟达把这类设备叫作“Super Phone”。它想在手机上再做一次PC时代做过的事:用更强的图形和计算能力,带动一批应用和游戏。

但手机还要接入运营商网络。2011年,英伟达宣布以3.67亿美元现金收购Icera,把通信基带这块拼图补进来。

2013年2月,Tegra 4i发布,集成了由Icera技术发展而来的i500 LTE基带。英伟达还做出Phoenix参考手机,供厂商据此设计产品。

同年9月,小米3发布,移动版采用Tegra 4。这是英伟达与小米的首次合作,Tegra进入了中国手机厂商的旗舰产品。

产品到了市场上,手机芯片生意却没有持续做大。

2015年5月,英伟达宣布逐步关闭Icera基带业务,也考虑出售相关技术。最终没有找到合适买家,公司开始收尾,不再自行开发调制解调器。

2016年财年,面向外部手机和平板厂商的Tegra产品销售额下降近90%;同期,面向汽车系统的Tegra销售额增长近75%。

英伟达把资源转向游戏、汽车和深度学习。Tegra留了下来,继续用于汽车、SHIELD设备,后来又进入任天堂Switch。

发布DGX-1

2016年,英伟达发布DGX-1。Tesla P100 GPU、高速互联、深度学习软件和开发工具,一起装进了服务器。

研究者不必再先花大量时间拼装高性能系统,再设法让软件跑起来。

同年8月,黄仁勋把首台DGX-1送到OpenAI旧金山总部。OpenAI成立还不到一年,马斯克是它的联合创始人之一。

2016年 黄仁勋与马斯克在OpenAI查看DGX1 来源NVIDIA

2016年 黄仁勋与马斯克在OpenAI查看DGX1 来源NVIDIA

黄仁勋拉开机箱,把里面的GPU托盘展示给研究者。马斯克站在旁边,双臂交叉,看着这台机器。

2016年 黄仁勋在OpenAI展示首台DGX1的GPU托盘 来源NVIDIA

2016年 黄仁勋在OpenAI展示首台DGX1的GPU托盘 来源NVIDIA

当年的官方报道里,Sutskever谈到,更快的GPU能让他们探索此前没有能力研究的问题。

那时还没有ChatGPT。他们已经在讨论更多数据、更大计算量,以及怎样让电脑和人对话。

2016年 OpenAI团队围在首台DGX1旁 来源NVIDIA

机箱上留下了黄仁勋的赠言,抬头是“To Elon & the OpenAI Team!”。下面写着,献给计算与人类的未来。团队成员也在机器上签了名。

首台DGX1机箱上的赠言与团队签名 来源NVIDIA

首台DGX1机箱上的赠言与团队签名 来源NVIDIA

为AI重做芯片

2017年5月,黄仁勋在GTC台上举起Tesla V100。新一代Volta架构加入Tensor Cores,专门加速深度学习中的矩阵运算。

2017年GTC 黄仁勋展示Tesla V100 来源滄者極限当年报道

早年,研究者把游戏显卡装进电脑,自己写CUDA代码。现在,英伟达开始为他们设计专用计算单元,更新服务器和深度学习软件。

模型继续变大,训练要把越来越多的GPU连在一起,机器之间不断交换数据。

2020年,英伟达完成对Mellanox的收购。Mellanox提供InfiniBand和以太网互联。GPU做完一部分计算,还要把结果及时交给其他GPU;网络的带宽和延迟,也进入了训练系统的设计。

英伟达把计算、服务器和互联放到一起做。单颗GPU之外,它开始掌握更大一部分数据中心系统。

同年9月,它又宣布收购Arm。这次没有完成:2022年2月,英伟达与软银宣布终止交易,原因是重大的监管障碍。英伟达保留了Arm授权,继续合作。

2022年9月,英伟达宣布H100进入量产。这代GPU加入Transformer Engine,面向大语言模型等任务,配套的服务器和云服务也开始准备交付。

11月30日,OpenAI 发布 ChatGPT。

初版ChatGPT基于GPT-3.5,在Azure的AI超级计算基础设施上训练。英伟达后来披露,OpenAI用的是上一代A100来训练和运行ChatGPT。

2023年1月,微软宣布与OpenAI扩大战略合作,继续投资专用超级计算系统,把OpenAI模型接入自己的产品和Azure服务。

到了3月GTC,黄仁勋把眼前的变化称为“AI的iPhone时刻”。他谈到,DGX已经从研究工具进入企业,开始全天候运转。

2023年GTC主题演讲中的黄仁勋与H100系统 来源NVIDIA

微软Azure推出H100虚拟机的私有预览,AWS宣布将建设可以连接多达2万颗H100的云端集群,Meta也在内部部署H100超级计算机。

英伟达还在同一场GTC宣布了DGX Cloud,让企业按月租用DGX集群,连同配套AI软件一起使用。服务先从Oracle云开始,再计划扩展到Azure和Google Cloud。

5月24日,英伟达公布财报:刚结束的季度营收71.9亿美元,下一季度却预计达到110亿美元。公司表示,正在增加供应,以满足生成式AI带来的需求。

第二天,股价上涨约24%,收于379.80美元,单日增加约1840亿美元市值,逼近万亿美元。

8月公布的实际成绩,比5月的指引还高:季度营收达到135.1亿美元,其中数据中心收入103.2亿美元,较上一季度增长141%。

同年,英伟达成立30年,黄仁勋回到Denny’s,为公司诞生地揭牌。

黄仁勋穿着黑皮衣,手里拿着咖啡杯。

2023年 黄仁勋重返Denny’s 摄影Don Feria AP Images for Denny’s

从服务器到整座机房

2024年1月的那个财年,英伟达总营收达到609亿美元,其中数据中心475亿美元,占比接近八成。

2024年3月,Blackwell发布。GB200 NVL72把36颗Grace CPU、72颗Blackwell GPU和NVLink互联装进液冷机柜;公司提供的系统,还包括网络、管理工具和AI软件。

2024年10月11日,黄仁勋来到纳斯达克,为GeForce 256发布25周年敲钟。他手里拿着一块显卡,与纳斯达克CEO Adena Friedman合影。

2024年10月 黄仁勋与纳斯达克CEO Adena Friedman 来源Nasdaq

2025年9月,黄仁勋又和Sam Altman、Greg Brockman一起公布合作计划:OpenAI拟部署至少10GW的英伟达系统。

九年前送过去的是一台服务器,这一次谈的是吉瓦级基础设施。

2025年9月 Greg Brockman 黄仁勋与Sam Altman 来源NVIDIA

四天的急转弯

2026年11月,围绕一家新加坡算力公司Megaspeed的调查,牵涉到了黄仁勋。Megaspeed是英伟达的云合作伙伴,能优先获得芯片。美国方面调查它是否帮助中国获得受出口限制的先进芯片。

黄仁勋的私人关系,被卷进了这条生意链。路透社报道,Megaspeed前高管Alice Huang被美国当局怀疑从事情报活动,并与黄仁勋存在亲密关系。

11月8日,黄仁勋给员工发信,承认对妻子不忠,向家人和同事道歉。他表示支持并配合董事会的独立调查。

当天,董事会宣布,由独立董事委员会和外部律师调查相关报道。声明表示,当时没有理由相信国家安全或英伟达机密已经受损,并继续对黄仁勋及其团队表达信心。

11月10日,独立董事宣布聘请Joon H. Kim及Wachtell律所开展调查。

11月11日,《纽约时报》又报道了黄仁勋与一名直接向他汇报的公司高管之间的关系。同一天,董事会接受了他的辞任。

11月12日,英伟达公布交接安排:黄仁勋辞去总裁、CEO及董事职务,CFO Colette Kress临时接任CEO,同时继续担任CFO。董事会开始从公司内外寻找永久继任者。

从公开致歉到辞任公告,只有四天。

参考链接

  • NVIDIA CEO交接公告:https://nvidianews.nvidia.com/news/nvidia-announces-ceo-transition
  • NVIDIA向SEC提交的8-K文件:https://www.sec.gov/Archives/edgar/data/1045810/000104581026000082/nvda-20261111.htm
  • 黄仁勋11月8日致员工信:https://nvidianews.nvidia.com/news/a-message-to-our-company
  • 英伟达董事会11月8日声明:https://nvidianews.nvidia.com/news/statement-from-nvidia-board-of-directors
  • 独立董事11月10日声明:https://nvidianews.nvidia.com/news/statement-from-the-independent-members-of-the-nvidia-board
  • 路透社对辞任事件与背景的梳理:https://www.investing.com/news/stock-market-news/nvidia-ceo-jensen-huang-to-step-down-in-big-blow-to-ai-boom-5021980
  • NVIDIA公司历程:https://www.nvidia.com/en-us/about-nvidia/corporate-timeline/
  • Crucible Moments与黄仁勋等人的访谈:https://sequoiacap.com/podcast/crucible-moments-nvidia
  • NVIDIA早期公司历程:https://www.nvidia.com/content/timeline/time_99.html
  • 计算机历史博物馆公布AlexNet源码:https://computerhistory.org/blog/chm-releases-alexnet-source-code/
  • 2016年DGX1发布公告:https://nvidianews.nvidia.com/news/nvidia-launches-world-s-first-deep-learning-supercomputer-6622436
  • 2016年向OpenAI交付首台DGX的官方记录:https://blogs.nvidia.co.jp/blog/first-ai-supercomputer-openai-elon-musk-deep-learning/
  • NVIDIA回顾向OpenAI交付第一台DGX:https://blogs.nvidia.com/blog/openai-nvidia/
  • NVIDIA完成收购Mellanox:https://nvidianews.nvidia.com/news/nvidia-completes-acquisition-of-mellanox-creating-major-force-driving-next-gen-data-centers
  • 2024年纳斯达克敲钟活动:https://www.nasdaq.com/newsroom/nvidia-celebrates-25th-anniversary-worlds-first-gpu-nasdaq
  • 英伟达2027财年第二季度财报:https://investor.nvidia.com/news/press-release-details/2026/NVIDIA-Announces-Financial-Results-for-Second-Quarter-Fiscal-2027/
  • 黄仁勋重返Denny’s餐厅:https://blogs.nvidia.com/blog/nvidia-dennys-trillion/
  • NVIDIA 2000年历史记录:https://www.nvidia.com/content/timeline/time_00.html
  • 2009年财报中对芯片封装问题的回溯:https://nvidianews.nvidia.com/_gallery/download_pdf/54481955f6091d273500033b/
  • 2015年退出Icera基带业务的公告:https://nvidianews.nvidia.com/news/nvidia-to-wind-down-icera-modem-operations-6622489
  • 2016年Nintendo Switch技术合作记录:https://blogs.nvidia.co.jp/blog/nintendo-switch/
  • 2017年Volta与Tesla V100发布公告:https://nvidianews.nvidia.com/news/nvidia-launches-revolutionary-volta-gpu-platform-fueling-next-era-of-ai-and-high-performance-computing
  • 2022年终止Arm收购公告:https://nvidianews.nvidia.com/news/nvidia-and-softbank-group-announce-termination-of-nvidias-acquisition-of-arm-limited
  • 2024年Blackwell发布公告:https://nvidianews.nvidia.com/news/nvidia-blackwell-platform-arrives-to-power-a-new-era-of-computing/
  • CUDA早期编程演进与Ian Buck:https://developer.nvidia.com/blog/inside-the-programming-evolution-of-gpu-computing/
  • 2006年斯坦福CUDA讲座记录:https://web.stanford.edu/class/ee380/Abstracts/061129.html
  • NVIDIA 2009年年报:https://www.annualreports.com/HostedData/AnnualReportArchive/n/NASDAQ_NVDA_2009.pdf
  • 2007年Tesla发布现场:https://pc.watch.impress.co.jp/docs/2007/0621/nvidia.htm
  • 2011年CES的Tegra手机演示:https://ascii.jp/elem/000/000/580/580398/
  • 2011年收购Icera公告:https://nvidianews.nvidia.com/_gallery/download_pdf/54481918f6091d2735000104/
  • 2013年Tegra 4i发布公告:https://nvidianews.nvidia.com/news/nvidia-introduces-its-first-integrated-tegra-lte-processor
  • 2013年Tegra 4小米3合作公告:https://nvidianews.nvidia.com/news/xiaomi-introduces-new-mi3-super-phone-powered-by-nvidia-tegra-4
  • NVIDIA 2016年年报:https://www.annualreports.com/HostedData/AnnualReportArchive/n/NASDAQ_NVDA_2016.pdf
  • 2023年5月业绩指引:https://investor.nvidia.com/news/press-release-details/2023/NVIDIA-Announces-Financial-Results-for-First-Quarter-Fiscal-2024/
  • 路透2023年5月25日股价报道:https://www.investing.com/news/stock-market-news/nvidia-close-to-becoming-first-trilliondollar-chip-firm-after-stellar-forecast-3090653
  • NVIDIA投资者问答与上市价格:https://investor.nvidia.com/investor-resources/faqs/
  • 2023年5月25日价格记录:https://www.aaii.com/investingideas/article/61396-why-nvidia-corporation8217s-nvda-stock-is-up-2437
  • OpenAI在2022年首次介绍ChatGPT:https://openai.com/index/chatgpt/
  • 2022年9月H100量产公告:https://nvidianews.nvidia.com/news/nvidia-hopper-in-full-production
  • 2023年微软与OpenAI扩大战略合作:https://blogs.microsoft.com/blog/2023/01/23/microsoftandopenaiextendpartnership/
  • 2023年H100云服务与ChatGPT使用A100的记录:https://nvidianews.nvidia.com/news/nvidia-hopper-gpus-expand-reach-as-demand-for-ai-grows
  • 2023年GTC主题演讲记录:https://blogs.nvidia.com/blog/gtc-keynote-spring-2023/

【声明】内容源于网络
0
0
AINLP
一个有趣有AI的自然语言处理公众号:关注AI、NLP、大模型LLM、机器学习、推荐系统、计算广告等相关技术。公众号可直接对话双语聊天机器人,尝试对对联、作诗机、藏头诗生成器、自动写作等,查询相似词,测试NLP相关工具包。
内容 6120
粉丝 0
AINLP 一个有趣有AI的自然语言处理公众号:关注AI、NLP、大模型LLM、机器学习、推荐系统、计算广告等相关技术。公众号可直接对话双语聊天机器人,尝试对对联、作诗机、藏头诗生成器、自动写作等,查询相似词,测试NLP相关工具包。
总阅读40.5k
粉丝0
内容6.1k