运行AI模型对计算机的旺盛需求不断加剧，但业内面临两大主要障碍：获取合适的芯片，以及将其部署到数据中心以产生收入。通用计算（General Compute）作为一家专注于AI推理的新兴云公司，为这些问题提供了答案，并完成了由FUSE VC领投、Carya Venture Partners和Village Global Ventures参投的1500万美元种子轮融资，投后估值达6000万美元。
芯片选型：SambaNova SN50成破局关键
尽管GPU需求飙升，但行业共识认为其并非运行已训练AI模型的最佳选择。针对推理阶段的专用芯片正在涌现，Nvidia收购Groq及Cerebras IPO均指明了这一方向。鉴于这两家公司产能紧张，General Compute选择了由英特尔支持的SambaNova制造的专用芯片。
SambaNova新架构更灵活且内存更大，性能优于GPU及其他专用芯片。Puklowski表示，新芯片每秒可生成600至700个token，远超GPU的约250个token。General Compute已订购价值3亿美元的SN50芯片，将成为首家部署该芯片的云服务商。
基础设施优势：风冷设计适配现有数据中心
SN50芯片采用风冷而非水冷，功耗更低，可直接安装在现有数据中心设施中，无需新增基础设施投资。此外，General Compute正寻求与数据中心提供商及加密货币矿工合作托管服务，利用后者闲置基础设施降低成本。
市场验证与资本背书
General Compute上周推出云服务，宣称是运行MiniMax 2.7开源大模型最快的平台。风险投资人Joe Hasselmann通过新基金Evercrest Capital Partners参与投资，他认为SambaNova与General Compute的合作关系类似CoreWeave与Nvidia的模式，双方互为战略押注。
未来展望：多模型共存与智能体交互提速
推理云隐含押注于多模型和智能体共存的未来，速度与成本成为核心竞争变量。OpenRouter近期获1.13亿美元B轮融资也印证了客户对多模型访问及Token支出优化的需求。
Puklowski强调速度至关重要，目标是将编码智能体工作负载从数小时缩短至5-10分钟，提升客服音频智能体的经济性。他指出：“随着交互转向智能体对智能体模式，代表用户阅读或查询数据库的智能体需要比人类阅读速度快得多的推理能力。”