DeepSeek V4的性能提升让人印象深刻，MLA多头潜在注意力、mHC流形约束超连接技术等等实现的超稀疏模型技术，和各种reuse、recall工程能力带来极致的KV缓存命中压缩超强记忆能力，将AI大模型的可用性和应用场景大幅扩展！更引人注目的是完美适配华为昇腾、寒武纪等国产AI芯片生态！
现在，这一DeepSeek专属传统艺能也被国外团队学走！
5月6日，Zyphra AI 正式发布了 ZAYA1-8B，一款基于 MoE（Mixture-of-Experts）架构的开源推理模型。
这又是一个反“参数堆料”，用全新技术框架实现智能密度（intelligence density）的胜利故事。而且是 Zyphra AI 与AMD深度合作，底层技术全面适配的结果！与DeepSeek配华为如出一辙！
ZAYA1-8B 总参数 8B，活跃参数不到 1B（约 0.7B），却在数学、代码和复杂推理任务上，干翻了体量大出上10倍的开源模型，甚至逼近 DeepSeek-V3.2 和 GPT-5-High 等千亿参数规模的前沿选手。
而且这次的特殊之处是：
Zyphra 把目标定得极致清晰：每参数、每 FLOP 榨出最多智能。结果，他们在 AMD 硬件上做到了端到端训练，证明了 Nvidia 之外的 AI 基础设施完全可行。
为什么这事值得大书特书？
因为在 AI 规模化时代，算力、能耗和部署成本正成为瓶颈。小模型如果能实现高性能，就意味着本地部署、边缘计算、个人 Agent 的真正爆发。ZAYA1-8B 正是朝着这个方向放了枪大的！
核心技术突破：全栈创新压榨每一颗“硅原子”⚙️
Zyphra 没走传统老路，而是从架构、预训练、后训练到测试时计算（Test-Time Compute）全链路重构：
- 架构创新：引入 Compressed Convolutional Attention (CCA压缩卷积注意力)，实现 8× KV-cache 压缩；MLP-based router + PID-controller 平衡路由；Learned residual scaling 控制深度残差。
- 预训练：完全在 AMD Instinct MI300X 集群上完成（1024 节点 + Pensando 网络），配合 IBM 云构建。更高 HBM 让长上下文训练更高效，真正端到端 AMD 栈。
- 后训练：4 阶段 RL cascade（Reasoning warmup → RLVE-Gym → math/code/TTC RL → behavioral RL），无 KL-in-reward 等创新设计，让模型从一开始就“思考优先”。
- 杀手级 TTC：Markovian RSA—— 递归候选聚合 + 有界上下文传递。无论推理多长，上下文始终受控，支持并行 rollout，极大提升了实际可用性。额外高算力下，它在 APEX-shortlist 上超越 DeepSeek-V3.2。
一句话总结：不是简单缩放，而是精准工程 + 创新方法论的完美结合。
性能实锤：小身板，大脑壳 📊
- 数学/推理：单 rollout 已超同量级模型，Markovian RSA 加持后，在 AIME’25、HMMT’25 等基准上接近或超过 Claude 4.5 Sonnet、Gemini-2.5 Pro 等。
- 代码：LCB 等任务中表现突出，完胜多数更大开源模型。
- 整体：以远低于竞品的活跃参数，实现了“智能密度”新高度。
当然，基准总有局限性（部分评论提到对比模型版本），但开源 Apache 2.0 + 立即可在 Zyphra Cloud 试用，已经足够让人兴奋。
潜在挑战：路由开销、真实世界泛化、长链 Agent 稳定性等仍需社区进一步验证。但这正是开源的魅力。
更深远的意义：AMD 生态破圈 + 开源超智路径 🌐
- 硬件多元化：Zyphra 用实际行动证明，AMD 在 AI 训练和推理上已具备前沿竞争力。这对整个供应链是利好，也让“去 Nvidia 化”多了一份现实可能。
- 开源超智（Open Superintelligence）：Zyphra 定位清晰——构建人类对齐的开放超级智能。小而强模型降低门槛，让更多开发者、研究者、创业者参与进来。
- 实际部署革命：<1B 活跃参数意味着手机、笔记本、本地 Agent 都能跑高阶推理。未来，AI 不再是云端奢侈品，而是人人可及的生产力工具。
Zyphra AI 从一开始就与AMD深度合作，深度适配AMD的折叠张量和序列并行（TSP）技术，这是一种将大型模型跨GPU拆分的新方法，其每GPU峰值内存低于任何标准并行方案。
这又是DeepSeek配华为模式的重大突破！让市场嗅到一种范式转移的趋势！而且这次直接拉到了入门款端侧PC智能手机组网运行的水准！
这正是Nvidia英伟达所面对的危机！也是苹果AMD华为们想主导的生态革命！
转发、点赞、收藏，这波更新值得每一个关注 AI 的人跟进！🚀
欢迎大家关注AI顿悟涌现时，快速入门当下最热的AI大模型前沿。
AI顿悟涌现时
AI顿悟涌现时是红绿旗下关注新技术的内容品牌。 AI顿悟涌现时关注前沿技术的发展应用，深度解读新技术对商业模式和社会形态的变革。 大模型商业技术及通识，筹备开课，欢迎有授课能力的朋友合作，欢迎有兴趣的朋友报名一起学习。相关优质内容将会发布在下方动图内微信公众号▼▼
