芯片制造商英伟达在上一个财季实现了300亿美元的收入，这主要得益于AI行业对GPU的无尽需求。GPU对于训练和运行AI模型至关重要；它们包含数千个核心，能够并行工作，快速执行支撑模型的线性代数方程。
人们对AI的热情依然高涨，英伟达的GPU已成为各规模AI玩家的首选芯片。但TensorWave——该公司于去年年底成立——却反其道而行之，推出了一家仅提供其竞争对手AMD硬件以用于AI工作负载访问的云服务平台。
“我们认识到存在一种不健康的垄断——它让终端用户无法获得计算资源，并扼杀了AI领域的创新，”TensorWave的首席执行官兼联合创始人达里克·霍顿（Darrick Horton）表示。“出于推动AI民主化的愿望，我们着手提供一种可行的替代方案，恢复竞争和选择。”
曲折的道路
匹克球最初将霍顿与TensorWave的其他两位联合创始人杰夫·塔查丘克（Jeff Tatarchuk）和彼得·托马西克（Piotr Tomasik）联系在一起——至少，是这项运动让他们开始了合作。
有一天打完比赛后，托马西克和塔查丘克这对亲密好友兼长期匹克球双打搭档，邀请霍顿（即塔查丘克的前同事）加入他们前往在拉斯维加斯最喜欢的酒吧。
“随着谈话的深入，我们讨论了GPU计算能力被垄断所掌控的情况，这导致了供应紧张，”霍顿说，“这一认识促成了TensorWave的成立。”
这三位合伙人不仅仅是在匹克球场上相识。
塔查丘克曾与霍顿共同创立了云供应商VMAccel，随后将另一家初创公司CRM开发商Lets Rolo出售给了数字身份公司LifeKey。霍顿拥有机械工程和物理学学士学位，曾在洛克希德·马丁公司的臭鼬工厂研发部门工作，之后联合创立了VaultMiner Technologies，这是一家加密货币挖矿公司，也是VMAccel的母公司。
至于托马西克，他与塔查丘克共同推出了Lets Rolo。（托马西克还是影响力营销网站Influential的联合创始人，该网站于7月被法国公关公司Publicis以5亿美元收购。）
那么，是什么让三个对超大规模云计算平台知之甚少的创业者认为他们能够与AI行业的巨头竞争？基本上就是坚韧不拔的精神。
“我们相信我们能够解决GPU供应问题，”霍顿说。
Vegas, 公司
TensorWave总部位于拉斯维加斯，这对于一家云基础设施初创公司来说是一个不寻常的城市选择。但Horton表示，团队看好这里的机遇。
“我们认为，拉斯维加斯有潜力成为一个繁荣的技术和创业生态系统，”他说。
这一预测并非毫无根据。根据Dealroom.co的数据，拉斯维加斯拥有600多家初创企业，员工超过1.1万人，2022年吸引了超过40亿美元的投资。
能源成本和运营在拉斯维加斯比在美国许多主要城市都低。此外，Tomasik和Tatarchuk都与当地的VC（风险投资）社区有着密切的联系。
Tomasik此前是总部位于拉斯维加斯的种子基金1864 Fund的普通合伙人，现在与非营利加速器StartUp Vegas和Vegas Tech Ventures合作。Tatarchuk是Fruition Lab的天使投资人，Fruition Lab是一家拉斯维加斯的孵化器，它以一种相当不寻常的方式起步，最初是一家基督教宗教组织。
这些联系加上Horton的资源，帮助TensorWave实现了从无到有的起步，成为首批推出面向AI工作负载的AMD Instinct MI300X实例的云服务商之一。TensorWave按需交付配备专用存储和高速互连的设置，按小时出租GPU容量，并要求至少签订六个月的合同。
“在整个云计算领域，我们并不孤单，”Horton说，“我们将自己定位为互补者，提供具有竞争力的性价比的特定AI计算能力。”
以AMD为导向
为人工智能构建低成本、按需且由GPU驱动的云服务的初创企业正迎来一个蓬勃发展的市场。
CoreWeave这家最初从事加密货币挖矿业务的GPU基础设施提供商最近筹集了11亿美元的新资金（以及75亿美元的债务），并与微软签署了一项价值数十亿美元的能力协议。Lambda Labs在四月初获得了一个最高达5亿美元的特殊目的融资工具，据报道正在寻求额外的8亿美元支持。由加密货币亿万富翁Jed McCaleb支持的非营利组织Voltage Park去年10月宣布，它将投资5亿美元用于支持GPU的数据中心。而Together AI，一家也进行生成式AI研究的云GPU主机，在三月以Salesforce为主导的融资轮中获得了1.06亿美元。
那么TensorWave希望如何竞争呢？
MI300X：上架、堆叠，准备投入生产！让我们开始ROCm之旅吧！#TensorWave #AMD #GPUrich #First
首先，关于价格。Horton指出，MI300X比目前Nvidia用于AI工作负载的最受欢迎GPU H100便宜得多，这使得TensorWave能够将节省的成本转嫁给客户。他不愿透露TensorWave的确切实例定价。但要击败更具竞争力的H100计划，其价格必须低于每小时约2.50美元——这是一个具有挑战性但并非不可能的壮举。
“价格范围从每小时约1美元到10美元不等，具体取决于工作负载的定制要求和所选的GPU配置，”Horton说，“至于TensorWave产生的每个实例的成本，由于保密协议，我们无法分享这些细节。”
其次，关于性能。Horton指出基准测试显示MI300X在运行（但不训练）AI模型方面胜过H100，特别是像Meta的Llama 2这样的文本生成模型。（其他评估表明，这种优势可能取决于工作负载。）
鉴于科技行业的巨头对MI300X表现出兴趣，Horton的说法似乎有一定可信度。Meta在12月表示，它将使用MI300X芯片用于运行其Meta AI助手等用例，而ChatGPT的制造商OpenAI计划在其开发者工具中支持MI300X。
竞争格局
其他押注AMD AI芯片的公司包括像Lamini和Nscale这样的初创企业，以及更大型、更成熟的云提供商，例如Azure和Oracle。（Google Cloud和AWS对AMD的竞争力仍持怀疑态度。）
目前有利于所有这些供应商的因素是持续的Nvidia GPU短缺以及延迟Nvidia即将推出的Blackwell芯片的发布。但短缺情况可能会很快缓解，随着关键芯片组件（尤其是内存）制造的增产，这将使Nvidia能够扩大H200（H100的继任者，拥有显著改进的性能）的出货量。
另一位押注AMD硬件的新兴云服务商面临的生存困境在于如何跨越Nvidia在AI芯片周围建立的竞争护城河。Nvidia的开发软件被认为比AMD的更成熟、更易用——而且已被广泛部署。AMD CEO Lisa Su已经承认采用AMD“需要付出努力”。
在遥远的未来，随着超大规模云服务商增加在定制硬件上的投资以运行和训练模型，价格竞争可能会变得具有挑战性。Google提供其TPU；Microsoft最近推出了两款定制芯片Azure Maia和Azure Cobalt；而AWS则有Trainium、Inferentia和Graviton。
Horton表示：“随着开发人员寻求能够有效处理其AI工作负载的替代方案，特别是在内存和性能需求增加以及持续的生产问题导致延误的情况下，AMD将保持更长时间的领先地位，在AI时代的计算普及中发挥关键作用。”
早期需求
TensorWave于今年晚些时候开始预览阶段客户接入。但Horton表示，它已经产生了300万美元的年经常性收入。他预计，一旦TensorWave将容量提升至20,000个MI300X，到年底这一数字将达到2500万美元——实现8倍增长。
假设每块GPU 15,000美元，20,000个MI300X将构成3亿美元的投资——然而Horton声称TensorWave的烧钱率“处于可持续水平之内”。TensorWave此前告诉The Register，它将使用其GPU作为大规模债务融资的抵押品，这是包括CoreWeave在内的其他数据中心运营商采用的方法；Horton表示这仍然是计划。
“这反映了我们强劲的财务状况，”他继续说道，“我们处于战略有利位置，能够通过在最需要的地方提供价值来抵御潜在的逆风。”
Horton以“保密性”为由拒绝回答目前有多少客户，但强调了TensorWave与网络骨干提供商Edgecore Networks和MK1（一家由前Neuralink工程师创立的AI推理初创公司）的合作。
“我们正迅速扩大产能，目前已有多个节点可用，并且我们正在不断增加容量以满足管道不断增长的需求，”Horton表示，并补充说TensorWave计划最早在2024年11月/12月上线AMD下一代MI325X GPU，该GPU预计将于2024年第四季度发布。
投资者似乎对TensorWave迄今为止的增长轨迹感到满意。Nexus副总裁周三透露，该公司领投了4300万美元的融资轮次，Maverick Capital、StartupNV、Translink Capital和AMD Ventures也参与了此次投资。
这一轮融资——即TensorWave的首轮融资——使这家初创公司的投后估值达到1亿美元。
“AMD Ventures与TensorWave共同致力于变革AI计算基础设施，”AMD Ventures高级副总裁Mathew Hein在一份声明中表示，“他们部署AMD Instinct MI300X的能力以及为AI客户和开发者提供公共实例的能力，使他们成为AI领域的早期竞争者，我们很高兴通过这轮最新融资支持他们的成长。”