芯片制造商Tenstorrent在筹集近7亿美元融资后,开发者现可在Koyeb平台上试用其AI加速器。Tenstorrent销售基于RISC-V指令集架构构建的AI处理器,并开发了专有的开源神经网络库TT-NN及开源底层编程模型TT-Metalium。
Tenstorrent是致力于构建Nvidia GPU及其CUDA库替代方案的公司之一,与Axelera、Etched、Groq等企业形成竞争关系。
Koyeb由前Scaleway高管创立,专注于为开发者提供云基础设施层面的抽象层,打造无服务器云平台,与Fly.io、Railway和Render等平台类似。开发者可通过命令行界面或在集成代码仓库后使用git push,在多个虚拟机上部署应用程序;平台支持Docker容器及多种主流编程语言。
Koyeb的核心优势在于弹性伸缩:可根据需求自动将应用扩展至数百台服务器,或在流量低谷时自动缩减基础设施。近几个月来,Koyeb聚焦AI应用领域,凭借无服务器特性为AI工作负载提供低延迟体验。
硬件方面,Koyeb已在数据中心部署Tenstorrent PCIe板卡。开发者可访问低级TT-Metalium SDK编写主机程序和内核程序,并在文档及管理面板中发现两种新型实例:
- TT-N300S实例:配备24GB GDDR6内存、192MB SRAM,性能高达466 FP8 TFLOPS,搭配64GB RAM和4个vCPU。
- TT-LoudBox实例:包含四个N300S,提供96GB GDDR6、768MB SRAM及高达1,864 FP8 TFLOPS的性能,配备256GB RAM和16个vCPU。
通过此次发布,Koyeb正将自己定位为硬件无关的云平台。联合创始人兼CEO Yann Leger表示:“这让我们想起ARM凭借高性能芯片进入服务器市场时的首发情景。早在Scaleway时期,我们就于2013-2014年引入ARM并提供完全定制服务器,积累了部署各类架构和操作不同硬件的经验。”
Tenstorrent作为AI芯片制造商,正积极寻找合作伙伴,围绕其开源编程模型构建开发者生态系统。要提供Nvidia AI堆栈的替代方案,需要行业各方协同发力。

