NVIDIA 授权丽蟾科技推出中国区 NIM 分发平台 CGC
立即体验 👉 https://cgc.chancloud.com
Jamba 1.5 Mini 是一款先进的混合SSM-Transformer指令遵循基础模型。它是一个专家混合模型（Mixture-of-Expertmodel），拥有 520 亿总参数和 120 亿活跃参数。长上下文能力强：256K token，使得处理长文档/对话时可以保持理解和上下文连贯性（例如审阅文章、处理大型文本、RAG检索融合等）。效率&资源需求优化：虽然总参数多，但实际推理或激活参数仅12B，节省显存和计算；使用MoE（mixture-of-experts）+混合层技术以减轻内存负载并加快推理速度。功能丰富：支持工具调用（function calling）、结构化输出（JSON）、grounded generation（提供外部文档信息时能参考它）等特性，使其不仅仅用于“聊天”或“写文本”，而且适合复杂应用场景。
上海丽蟾科技，作为 NVIDIA 首批云合作伙伴 NCP（NVIDIA Cloud Partner）和 CND（China NIM Distributor）合作伙伴，致力于打造领先的 GPU 架构智能计算解决方案，包括智算云服务和智算中心 AI 基础设施建设及用户赋能。
丽蟾云是丽蟾科技在 AI 智算中心领域多年深耕后推出的创新 AI 服务平台。丽蟾云不仅提供了灵活高效的算力资源调度与监控管理工具，还实现了资源管理和训练推理的一体化服务。