大数跨境
0
0

聊一聊 NVIDIA DGX Spark

聊一聊 NVIDIA DGX Spark 赞奇科技Xsuperzone
2025-11-10
0

这几天跟同事和同行们聊天,看起来大家还是有一些疑虑。部分原因是线上有一些关于 DGX Spark 性能描述不是太美好,加上国内市场卷的厉害,信心不太够。我有看到 2 个推送的信息,一个讲性能不如 5090、6000Ada,另一个讲的是发售之后遇冷功耗性能腰斩但没有具体的辅佐证据。


我想我们要用一个全新的视角来看待 Spark,所以我决定还是说两句。


先澄清一下,本文有商业考量,本文作者在 GPU 圈子摸爬滚打也有 20 来年,本文属于不得不说,也希望能够以此能够影响一部分看官们的看法。下面是正文:


首先 DGX Spark 是一个全新的产品形态,当然前提也是因为到今天 AI 的发展,已经到了个人用户开始使用 AI 作为辅助工作和生活的工具,所以 DGX Spark 出现了。


它最大支持 200B(FP4),当然 200B 大多数用户我觉得也用不上,在 30-120B 的范畴很适合个人开发者和终端用户用,又轻又小、能随身携带、功耗也很低,所有的产品特性都是围绕个人开发者、以及有私有化 AI 助手的终端用户来用。这和过去 GPU 大卡的市场有非常大的区别。


对于个人开发者,这个产品当然不是唯一选择,市场上有各种便宜的 X090、GPU 云资源、工作站、 PC 等等都可以作为开发者工具。DGX Spark 只是提供了一个新的选项,萝卜白菜各有所爱,总有想要的那一款,但当你需要一个便携的终端做产品验证,需要一个性价比高的软硬一体的 Agent 产品的时候,DGX Spark 也许会是一个不错的选择。


对于有私有化 AI 助手需求的个人用户市场来说,一定需要有很多的开发者,来开发各种 AI 助手,满足不同种类的 AI 需求。这个市场是否存在,以及是否在未来几年会是一个高速成长的市场我不知道,但 AI 发展的趋势提供了这种可能性,而且是极大的可能性。


所以对于程序员、开发者们,是不是可能也是一个机遇?有没可能大家一起合作,一起推动个人 AI 终端的应用市场,开发更多更好的应用给到用户?


再讲点儿产品相关的


关于性能的说法,我想不能拿一个三四万块的产品,去跟十来万,甚至几十万的产品去对比性能,博流量而已。要买大卡 GPU 做训练做微调的用户,也许也会同时有一个Spark 的需求,但这中间不是替代关系,是共生关系。


价格上,3 万多在这个大经济环境下,特别对于个人开发者,也确实不便宜,但对于原生 CUDA 128GB 共享显存的产品,这好像也已经几乎是最便宜的产品了。


关于市面上的测试数据,原生模型本来有一些不支持 FP4,所以测试的数据不一定准确,官方现在紧锣密鼓地在上线基于 FP4 优化后的推理工具,比如千问 30B 、NIM For Spark,优化后会很不一样。


关于并发,客户如果是有比较多的并发需求,比如大于 4-5 个以上的并发,那我会建议考虑工作站或者服务器,同样 128GB 以上的显存,单台能提供 10-50 左右的并发量,成本可能也可以控制在 20 万以内。


对于个人 AI 终端这个市场,还没开始,在老黄的引领下,大家都还得多摸索。Jensen huang 指明了方向,各位如果简单地从社交媒体上一些信息来判断 Spark 并给它下一个定义,也许会让我们错失不少机会。当然对于我们而言,说明工作做的确实很不够,模型的验证、场景的搭配、一些基本工具的开发、市场的引导等等,任重道远,大家一起加油!


(老鱼)

【声明】内容源于网络
0
0
赞奇科技Xsuperzone
内容 597
粉丝 0
赞奇科技Xsuperzone
总阅读63
粉丝0
内容597