总部位于中国的AI公司DeepSeek发布了其对标OpenAI o1的推理模型DeepSeek-R1开源版本。此前我们在《人工智能动态》中曾介绍过该模型及其引发的行业关注。DeepSeek在AI领域的研究甚至引发了对OpenAI的批评，让我们近距离审视这家掀起革命浪潮的公司所取得的成就。
深入了解DeepSeek
DeepSeek由梁文峰创立并管理，并获得其旗下中国投资基金High-Flyer Quant的资金支持。2024年5月，DeepSeek推出兼具低价与高性能的DeepSeek-V2，自此成为中国AI模型价格战的催化剂。为应对字节跳动、腾讯、百度和阿里巴巴等科技巨头的竞争，DeepSeek持续降低AI模型价格。
DeepSeek已发布多款模型，包括DeepSeek LLM、DeepSeek Coder、DeepSeek Math、DeepSeek VL、DeepSeek V2、DeepSeek Coder V2及DeepSeek V3，其中新推理模型R1更是引发巨大轰动。除API平台外，其产品还涵盖DeepSeek应用、DeepSeek Chat和DeepSeek平台。用户反馈显示，相比OpenAI和Perplexity，DeepSeek搜索功能表现更优；目前其主要竞争对手为谷歌Gemini Deep Research。
GPU使用效率
据悉，在美国出口限制前，High-Flyer Quant提供了超1万台Nvidia GPU用于模型训练；尽管面临贸易禁令，仍通过替代渠道获取了5万台GPU。相比之下，OpenAI、Google和Anthropic等领先实验室拥有超50万台GPU，DeepSeek算力明显落后。那么，它是如何在此条件下推出更具创新性模型的？
据Jeffrey Emanuel分享的信息，DeepSeek在混合精度训练中采用8位浮点数而非32位，显著降低了单张GPU的内存需求。
DeepSeek R1成功背后的秘密
去年11月，DeepSeek凭借有限版R1-lite-preview模型宣称超越OpenAI o1，但因版本受限未达预期。上周，随着完整版本及技术论文同步开放，R1迅速成为AI圈焦点。
DeepSeek表示，R1在部分AI基准测试中与OpenAI o1持平，甚至在AIME、MATH-500和SWE-bench Verified等指标上实现超越。
拥有6710亿参数的R1已在Hugging Face按MIT许可证开源，允许无限制商用。开发者反响热烈，截至发稿下载量已近14.9万次。其受欢迎的关键在于，每百万token成本远低于OpenAI o1系列模型。
此外，DeepSeek还以一项创新举措亮相：有意偏离大型语言模型（LLM）训练中传统的监督微调（SFT）流程。
用强化学习（RL）替代监督微调（SFT）
监督微调（SFT）本是AI开发的标准步骤，研究人员通常借此教会模型逐步推理能力（即思维链CoT）。传统观点认为SFT对提升推理能力必不可少，但DeepSeek反其道而行，完全跳过SFT阶段，转而采用强化学习（RL）训练模型。
这一策略使DeepSeek-R1独立发展出强大推理能力，且避免了规则化数据集带来的脆弱性。不过，跳过SFT也存在缺陷，因此团队在构建末期有限应用了该方法。最终结果证明，仅靠强化学习即可实现显著性能提升。简言之，DeepSeek-R1的成功核心在于低成本提供高技术。
根据共享信息，DeepSeek还使用多种公式预测将被激活的token，并仅对这些token进行训练。由于每token仅训练5%的参数，其所需GPU数量比Meta少95%。
DeepSeek的进展标志着企业界新纪元的开启。随着成本下降和开放获取趋势加强，企业与开发者可转向其他开放且强大的模型，不再依赖OpenAI等昂贵的专有模型。这一突破将促使包括Meta在内的众多AI公司推出更高效、低成本且开放的模型。可以说，AI领域GPU需求的减少或将限制芯片公司的行动空间。