
总部位于中国的AI初创公司DeepSeek低调发布新款基础大语言模型DeepSeek-V3-0324,并在Hugging Face向用户开放。该模型体积为641GB,附带MIT许可证,支持商业用途,且可直接在搭载Apple M3 Ultra芯片的Mac Studio等消费级硬件上运行。
这款拥有6850亿参数的模型在未进行技术评测、博客宣传或营销推广的情况下上线,README文件亦为空。其独特的模型权重配置引发了业界关注。
AI研究员Xeophon指出,新版DeepSeek V3具备挑战Anthropic Claude Sonnet 3.5的实力。与需订阅的Sonnet不同,DeepSeek-V3-0324权重免费开放下载和使用,具有极高的价值主张。
DeepSeek-V3-0324采用专家混合(MoE)架构,从根本上重构了大语言模型的工作机制。传统模型在处理任务时会激活全部参数,而DeepSeek仅在特定任务中激活6850亿参数中的约370亿个“专家”参数。这一设计大幅降低了计算需求,使其性能表现可与更大规模的全激活模型相媲美。
此外,该模型还集成了两项开创性技术:
- 多头潜在注意力(MLA):显著提升模型在长文本段落中的上下文保持能力;
- 多令牌预测(MTP):将传统的单令牌生成策略改为每步生成多个令牌,使输出速度提升约80%。
Apple机器学习研究团队科学家Awni Hannun测试显示,该模型在Mac Studio上的生成速度可达每秒约20个令牌。用户反馈表明,V3-0324的交流风格较前代发生显著变化:从以往健谈、拟人化的语气,转变为更正式、更具技术导向的风格。
DeepSeek-V3-0324的发布时机与功能特性表明,它将为未来两个月内推出的推理增强型高级模型DeepSeek-R2奠定基础。DeepSeek-R2有望直接对标OpenAI计划发布的GPT-5模型。

