文|南都记者 朱可轩
近日,“从模型到世界”天数智芯2026媒体开放日活动在上海举行。天垓300首次面向媒体进行实机演示,基于该芯片的AFD分离方案、IXL144超节点方案,以及天数智算软件栈、彤央端侧算力终端同步亮相。此外,天数智芯预告了下一代端侧产品彤央TY2000,其标称算力将达600T,进一步拓展云端能力下沉的边界。
天垓300实测性能对标H200,适配Token工厂需求
作为今年世界人工智能大会期间发布的新一代通用GPU旗舰产品,天垓300在活动现场首次向媒体开放实机演示。第三方权威机构于今年7月针对四大主流模型及三类场景进行测试。结果显示,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到英伟达H200的1.05倍。天数智芯强调,该对比并非理论峰值,而是特定模型和部署条件下整条推理链路的实际输出能力。
天数智芯性能实验室的实测数据进一步覆盖了典型业务场景:在64K长上下文下,天垓300的Attention性能为H200的1.05倍;在GLM-5.3模型64K规模下,保障同等用户体验时,MoE吞吐为H200的1.15倍;在8K至128K长上下文场景中,Agent首字延迟较H200降低约10%—30%;多模态生成推理吞吐相较H200提升约2%—5%;在搜索广告推荐等在线业务中,推荐推理吞吐提升21%,轻量计算时延降低26%。
满足Token工厂对算力的高标准要求
随着日均Token调用量持续增长,“Token工厂”已成为算力规模化落地的热门形态,也是检验高质量算力的关键场景。天数智芯表示,天垓300在以下三个方面满足了Token工厂的实际要求:
一是高效率。鉴于电力、机房和固定运维支出难以压缩,单位Token成本主要取决于设备投入和有效吞吐。天垓300折算单卡端到端吞吐达到H200的1.05倍,为单位时间内生产更多有效Token提供了性能基础。
二是可预期性。Token工厂需在长时间满负荷运行时保持稳定。天垓300满负荷运行的步时波动仅为0.43%,低于对比Hopper方案的0.76%,确保了长时间高负载下的利用率与可用率。
三是可持续性。天垓300采用通用架构,原生支持CUDA语义,主流框架均已适配,并提供从加速卡、服务器到超节点的不同部署形态,能够灵活应对多种模型与业务需求。
彤央TY1200实测超越英伟达Thor T5000,推动云边端算力分层
在端侧领域,天数智芯推出的小型化智能计算设备彤央TY1200表现亮眼。该产品面向具身智能、AI Agent开发部署及行业现场部署需求,标称拥有300 TOPS稠密算力(而非行业惯用的稀疏峰值)。实测数据显示,在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型中,TY1200性能达到英伟达Thor T5000的1.2倍;在Cosmos-R2-2B和Cosmos-R2-8B测试中,其性能分别达到Thor T5000的158%和180%。天数智芯彤央产品市场负责人宋远盈指出,TY1200的优势源于更高的显存带宽和更多的计算核数量。
算力分层成为必然趋势
天数智芯认为,布局端侧算力主要基于以下三点考量:
首先,物理世界数据量持续增长,感知、规划与执行任务要求毫秒级响应;涉及合同、科研等数据安全的任务要求算力“贴着数据跑”,业务需求推动了算力分层。
其次,小参数量模型能力提升,使得更多任务具备边端部署条件,技术演进让算力分层成为可能。
最后,客户关注长期使用成本,要求算力投入更精准。简单任务无需上云,复杂任务也不宜一律下沉。大规模训练与复杂复判保留在云端,而要求实时响应、涉及数据安全或需要现场闭环的任务则部署在端侧。
宋远盈表示:“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”天数智芯将云侧大规模训练与推理中积累的模型压缩、量化、蒸馏及软硬协同能力,连同通用GPU架构、编译器、算子库和性能工具延伸至边端,实现模型“生在云、长在边”。这种云端训练、边端部署、必要时云端复判的模式,保持了模型能力与精度的衔接,并为工业应用、具身智能等高稳定性要求的场景交付提供了坚实基础。

