周二，AI基础设施公司Runware宣布推出自有模块化数据中心Sonic Inference Pod。该Pod设计为单个可运输单元，代表了一种更具灵活性的计算能力，可与超大规模数据中心的庞大项目并行部署。
Runware表示，Pod能够提供比其它无服务器推理平台和GPU云服务更高质量但成本更低的推理服务。其模块化设计意味着可以通过创建新的Pod来快速增加容量，而无需扩展固定的数据中心。在某种程度上，这就是未来，Runware联合创始人兼首席执行官Flaviu Radulescu对TechCrunch表示。
“我们相信，分布式计算，即更接近终端用户以实现更快推理，将是长期获胜的关键，”他说道，并以自己的公司为例。除了价格更低之外，Radulescu指出，Runware系统可以快速扩展和增加容量，只要有电力供应的地方就可以部署，并且能够快速适应新硬件的发布。Runware Pod不使用水，而是采用闭环冷却系统，可以在几天内建成，而传统数据中心的建设则需要数月甚至数年。
“对推理的需求增长速度超过了设施的建设速度，”Radulescu说。“我们的目标是 powering the world’s intelligence（为全球智能提供动力），成为每个AI模型运行的骨干网络，提供能够跟上需求而非限制需求的容量。”
Radulescu表示，Runware目前在美国、欧洲和亚太地区部署了10个Pod。该公司已为包括Higgsfield AI和Wix在内的几家公司提供推理服务，并拥有160个站点来为其Pod供电。Runware于12月宣布完成5000万美元A轮融资，以提供企业生成图像所需的设施。他们将该Pod的扩展视为公司核心使命的一部分：为企业提供服务，而非单一产品。
像OpenAI和SpaceX这样的AI实验室仍在美国各地竞相建设数据中心。例如，据报道，OpenAI正接近达成一项价值5000亿美元的交易，将在俄亥俄州建设一座数据中心。但Radulescu并不认为这些项目会对Sonic Inference Pods构成威胁，他将Pod的灵活性描述为关键差异化因素。
“每个Pod都作为单一网络的一部分运行，因此请求会被发送到有容量的地方，更接近用户；如果一个Pod离线，流量会转移到另一个Pod，”他说，并补充道，系统故障只意味着一个Pod宕机，而不是整个固定设施瘫痪。“希望获得专用硬件的客户可以独占整个Pod。”
他也不太担心其他公司自行构建此类系统，只是简单地说，硬件开发进展缓慢，且具备构建和维护这项技术的人才库非常小。
“电路板设计中的一个错误会导致重新设计、仿真、制造、测试和交付之间耗时数月，”他说。“每一个环节都需要有人确切了解每个组件的作用，以及如果缺少该组件会发生什么故障。”
然而，建设AI数据中心是一个有争议的话题，尤其是因为其消耗大量资源。目前，数据中心所在社区已报告公用事业费用上升。Runware展望有一天能在可再生能源下运行，且不占用社区所需资源，但那一天未必就是今天。
Radulescu表示，无论由谁提供，AI的电力使用量都将不可避免地增加，“这是由对推理的需求驱动的，而非由供应商决定。”他表示，Runware目前专注于如何满足这种需求。“没有传输损耗，冷却系统不用水，我们使用的是现有电力，而不是要求建设新的电网容量。以这种方式构建更多的推理能力，意味着在提供相同算力的情况下，需要新建的电网更少，耗水也更少。”