大数跨境
分享
DeepSeek V4 大模型或已训练完成
2026-01-04 10:42 星期日
1月2日元旦假期期间,DeepSeek发布了一篇新论文,提出一种名为“流形约束超连接”(mHC)的训练框架,引发行业广泛关注。尽管2025年DeepSeek没有推出全新大模型,但持续优化DeepSeek V3.X系列,并公开了多项关键技术进展,为后续模型升级打下基础。

论文主要解决深度学习中“超连接”结构在大模型训练时容易失稳的问题:传统方法常导致数值异常放大、损失突然飙升,难以维持长期稳定训练。mHC通过控制整体放大程度,让训练更可控。在270亿参数模型上的测试显示,训练耗时仅略有增加,但在复杂推理和阅读理解等任务上的准确率明显提升。

论文还提到,相关成果已在内部大规模实验中得到验证。业内普遍认为,这暗示DeepSeek下一代基座模型V4已完成训练。参考此前R1模型的发布时间节奏,市场预期V4可能在春节前后正式亮相。
新闻推荐 查看更多
大数快讯小程序
跨境每一天
从大数快讯开始
扫码访问小程序
热门报告 查看更多
加入卖家交流群