大数跨境
0
0

超聚变与趋境科技联合首发产品 千亿级多模态大模型装进桌面

超聚变与趋境科技联合首发产品 千亿级多模态大模型装进桌面 超聚变
2025-12-11
2


近日,超聚变与趋境科技正式同步首发“灵启AI小盒子”。该产品基于FusionXpark™随身智能体开发平台打造,实现千亿级多模态大模型在桌面设备的稳定运行,打破了大模型本地部署的算力与技术壁垒,使个人拥有专属“超级AI实验室”成为可能,推动桌面级AI创新进入新阶段。




重新定义大模型私有化

每个人都能成为一线AI研究员


作为本次首发的核心亮点,灵启AI小盒子深度融合趋境科技领先的FP4量化技术与超聚变FusionXpark™强大算力底座。依托nvFP4官方量化标准,该产品实现千亿级参数大模型的高效运行,模型精度误差不超过0.1%,能够保留原生智能性能,同时将显存需求降低至传统方案的30%-40%


产品搭载趋境科技全球首创的“全系统异构协同推理”与“以存换算”核心技术,联合KTransformers推理引擎与Mooncake分布式推理框架,将大模型本地部署门槛降低10倍。四大核心能力重塑AI开发体验:


开机即用:内置主流大模型与趋境科技内置推理引擎、模型运维平台,开机即用,无需耗时配置。


超强算力:搭配FusionXpark™随身智能体开发平台1 PFLOPS@FP4精度的超强算力与128GB超大内存,单并发推理速度突破30 tokens/s,预填充速度达2100 tokens/s,支持100K超长上下文处理,轻松应对文本生成、多模态交互等复杂任务。


运维无忧:内置智能预警机制,提前检测并规避显存溢出等运行风险,为大模型任务提供工程级稳定性保障。


多模型并行推理支持:可同时运行大语言模型、Embedding等多类推理实例,为复杂AI应用搭建铺平道路。


·

<

滑动查看下一张图片

>



内置完整生态,加速价值创造


“灵启AI小盒子”搭载全栈开发生态,为AI创新提供全方位支持:


LLaMA Factory零代码微调工具支持32B及以下模型可视化定制,非专业开发者也能顺利完成模型优化工作。


趋境·智问 智能办公助手提供本地知识库与AI对话功能,可直接管理私密科研资料与工作文档,打造完全私有化的智能办公体验。


PandaWiki知识库系统与MonkeyCode编程助手覆盖从内容创作到研发协作的全链路,一站式满足从创意构思到产品落地的全流程需求。


<

滑动查看下一张图片

>


依托FusionXpark™1.2kg的便携机身与全栈兼容特性,“灵启AI小盒子”可适配多元应用场景,包括个人开发者的创意实验、高校师生的实训教学、中小企业的私有化部署等,真正实现“小体积、大算力、全生态”的应用体验,让高性能AI算力更易获取。


趋境科技源自清华大学高性能计算研究所,由中国工程院院士郑纬民担任首席科学顾问,其全栈技术实力与超聚变FusionXpark™的硬件优势形成强大协同。此次同步首发不仅是AI Infra领域的技术突破,更标志着算力下沉至桌面端的全新范式。


随着该产品的推出,AI创新将不再局限于大厂实验室,每位开发者、每个研究团队都能在桌面之上探索前沿AI可能性,真正开启个人超级AI Lab的发展新阶段。


·
图片
·
图片
图片

·

·
图片

【声明】内容源于网络
0
0
超聚变
超聚变秉承“共建智能体时代”的愿景,战略布局算力、城企数智、能源智慧解决方案等业务领域,与全球生态伙伴携手,让智算数能更好地服务您!
内容 531
粉丝 0
超聚变 超聚变秉承“共建智能体时代”的愿景,战略布局算力、城企数智、能源智慧解决方案等业务领域,与全球生态伙伴携手,让智算数能更好地服务您!
总阅读166
粉丝0
内容531