大数跨境

无服务器云平台 Koyeb 现允许开发者快速部署 Tenstorrent 的 AI 加速器

无服务器云平台 Koyeb 现允许开发者快速部署 Tenstorrent 的 AI 加速器 海外洞察
2025-02-25
1
导读:芯片制造商Tenstorrent在几周前刚刚完成近7亿美元的融资,如今开发者便可以在Koyeb平台上试用Tenstorrent的AI加速器。

芯片制造商Tenstorrent在筹集近7亿美元融资后,开发者现可在Koyeb平台上试用其AI加速器。Tenstorrent销售基于RISC-V指令集架构构建的AI处理器,并开发了专有的开源神经网络库TT-NN及开源底层编程模型TT-Metalium。

Tenstorrent是致力于构建Nvidia GPU及其CUDA库替代方案的公司之一,与Axelera、Etched、Groq等企业形成竞争关系。

Koyeb由前Scaleway高管创立,专注于为开发者提供云基础设施层面的抽象层,打造无服务器云平台,与Fly.io、Railway和Render等平台类似。开发者可通过命令行界面或在集成代码仓库后使用git push,在多个虚拟机上部署应用程序;平台支持Docker容器及多种主流编程语言。

Koyeb的核心优势在于弹性伸缩:可根据需求自动将应用扩展至数百台服务器,或在流量低谷时自动缩减基础设施。近几个月来,Koyeb聚焦AI应用领域,凭借无服务器特性为AI工作负载提供低延迟体验。

硬件方面,Koyeb已在数据中心部署Tenstorrent PCIe板卡。开发者可访问低级TT-Metalium SDK编写主机程序和内核程序,并在文档及管理面板中发现两种新型实例:

  • TT-N300S实例:配备24GB GDDR6内存、192MB SRAM,性能高达466 FP8 TFLOPS,搭配64GB RAM和4个vCPU。
  • TT-LoudBox实例:包含四个N300S,提供96GB GDDR6、768MB SRAM及高达1,864 FP8 TFLOPS的性能,配备256GB RAM和16个vCPU。

通过此次发布,Koyeb正将自己定位为硬件无关的云平台。联合创始人兼CEO Yann Leger表示:“这让我们想起ARM凭借高性能芯片进入服务器市场时的首发情景。早在Scaleway时期,我们就于2013-2014年引入ARM并提供完全定制服务器,积累了部署各类架构和操作不同硬件的经验。”

Tenstorrent作为AI芯片制造商,正积极寻找合作伙伴,围绕其开源编程模型构建开发者生态系统。要提供Nvidia AI堆栈的替代方案,需要行业各方协同发力。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k