往期我们测试了1台 DGX Spark 运行 gps-oss-120b FP4 模型,近期我们的技术伙伴测试了3台集群运行 Qwen3-235B-A22B-FP8 模型,现在来为大家带来第一手的实测性能分析。
测试数据(4k输入)
用户体验: 在交互式应用中(如聊天机器人),Prefill 直接决定了用户从按下“发送”到看到第一个字开始出现的等待时间。这个“首字延迟”对用户体验至关重要。
处理长上下文能力: Prefill 的计算复杂度与输入序列长度的平方(在原始注意力机制下)成正比。因此当处理非常长的文档或对话历史时,Prefill 延迟会急剧增加成为系统瓶颈。优化 Prefill 性能是让模型用好长上下文的关键。
远程体验&购买渠道
关注赞奇科技了解更多资讯。赞奇科技现对外开放 DGX Spark 一体机远程免费体验,扫描下方二维码即可申请。
定制采购 & 申请体验
线上购买

