电力是AI关键原材料，但新技术挑战电网管理能力
电力是人工智能的关键原材料，但新的处理技术超出了数据中心运营商管理其与电网关系的能力，迫使他们将运行速度降低多达30%。
英伟达（Nvidia）首席执行官黄仁勋在公司年度GTC客户大会的主题演讲中表示：“这些AI工厂浪费了大量电力。”该公司在年度演示中宣称：“每一瓦未被使用的电力都是收入的损失。”
Niv-AI获1200万美元融资，精准测量GPU功耗
如今，初创公司Niv-AI已走出隐身期，获得1200万美元种子轮融资，旨在通过新型传感器精确测量GPU功耗，并开发更高效的管理工具来解决这一问题。
这家总部位于特拉维夫的初创公司由首席执行官Tomer Timor和首席技术官Edward Kizis于去年创立，并获得Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward和Aurora的投资。该公司拒绝透露其估值。
毫秒级电力激增影响数据中心回报
随着前沿实验室协同运行数千个GPU来训练和运行先进模型，处理器在计算任务之间切换以及与其它GPU通信时，会出现频繁的毫秒级电力需求激增。
这些激增使得数据中心难以管理从电网获取的电力。为了避免因电力不足而陷入困境，数据中心会购买临时储能以应对峰值，或者限制GPU的使用。这两种情况都会降低对昂贵芯片投资的回报。
Grove Ventures合伙人、Niv董事会成员Lior Handelsman表示：“我们不能再像现在这样建设数据中心了。”
部署机架级传感器，打造数据中心“智能层”
Niv路线图的第一步是了解正在发生的情况；该公司目前正在部署机架级传感器，以毫秒级的精度检测其自有GPU以及设计合作伙伴处GPU的电力使用情况。目标是了解不同深度学习任务的特定电力特征，并开发缓解技术，使数据中心能够释放更多现有容量。
自然而言，工程师们期望利用收集到的数据构建一个AI模型，旨在训练它预测并同步整个数据中心的电力负载——成为数据中心工程师的“副驾驶”（copilot）。
Niv-AI预计在未来六到八个月内在美国的几个数据中心部署运营系统。这是一个极具吸引力的构想，因为试图建设新数据中心的超大规模企业正面临严峻的土地使用和供应链障碍。创始人将其最终产品视为数据中心与电网之间缺失的“智能层”。
Timor告诉TechCrunch：“电网实际上担心数据中心在特定时刻消耗过多电力。”“我们要解决的问题是一根绳子的两端：一方面，尝试帮助数据中心利用更多的GPU，并希望更充分地利用他们已付费购买的电力；另一方面，也可以在数据中心与电网之间创建更加负责任的电力使用模式。”