大数跨境

DeepSeek 推出的蒸馏版新 R1 AI 模型可在单块 GPU 上运行

DeepSeek 推出的蒸馏版新 R1 AI 模型可在单块 GPU 上运行 海外洞察
2025-05-29
2
导读:DeepSeek 蒸馏版的新款 R1 AI 模型可在单块 GPU 上运行,使其对爱好者而言触手可及。

DeepSeek本周发布新R1推理模型的“蒸馏”版本DeepSeek-R1-0528-Qwen3-8B。该模型以阿里Qwen3-8B为基础,在特定基准测试中表现优于同规模竞品。

核心性能亮点:

  • 在AIME 2025高难度数学测试中,表现优于Google Gemini 2.5 Flash;
  • 在HMMT数学技能测试中,几乎追平微软Phi 4 reasoning plus模型。

部署优势:作为蒸馏模型,其计算需求显著低于全尺寸版本。据NodeShift数据,运行Qwen3-8B仅需单张40GB-80GB显存GPU(如Nvidia H100),而全尺寸新R1约需12张80GB显存GPU。

训练与应用:该模型通过R1生成文本对Qwen3-8B微调而成,兼具学术研究价值与小规模工业开发适用性。

开源许可:采用MIT许可证发布,支持无限制商用,目前已通过LM Studio等多个平台提供API服务。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k