在数字经济浪潮奔涌的当下,科技创新已成为企业突破传统发展边界、重构核心竞争力的战略支点。
作为一家新时代国有企业,实体化运行以来,集团始终将科技创新作为高质量发展的核心动能,不断深耕数字经济、人工智能、低空经济等新赛道,持续跟踪前沿技术发展趋势,通过“技术学习-业务调研-课题转化”三位一体攻关模式,潜心钻研实体经济与数字技术的深度融合路径,为推动多领域智能化转型注入强大动力。
基于DeepSeek大模型一体机
及本地化部署的研究与应用
随着大模型技术在金融、医疗、制造、政务等领域的广泛渗透,传统大模型部署方案的弊端逐渐凸显。模型规模难以灵活匹配不同应用场景,导致计算资源浪费或性能不足;部署过程复杂,运维成本高,难以实现“即开即用”,云端训练和推理还存在数据安全隐患。
在此背景下,集团开展基于DeepSeek大模型一体机及本地化部署的研究与应用。该课题通过构建14B、32B、70B、671B不同规模梯度的大模型底座私有云部署,优化国产AI硬件适配,实现按需调度,提升推理效率,以满足多元化应用场景需求。同时,依托集团一体机平台软件并适配集团算力硬件,提供预装完整大模型环境的一体机解决方案,实现开箱即用、快速部署、低运维成本,大幅降低企业引入大模型的技术门槛。此外,还基于一体机提供完全本地化的大模型使用环境,支持本地知识库和智能体搭建,确保数据安全可控。
该课题的特色亮点突出。梯度化模型底座覆盖14B至671B参数规模,可支持动态调度,满足从轻量推理到复杂任务的多元化需求,深度优化国产算力硬件,显著提升推理效率与能效比;一体机预装模型、工具链及运维系统,实现“开箱即用”,部署时间缩短80%以上;全链路数据安全保障,通过本地化训练、推理与知识库管理,杜绝云端数据泄露风险。
该课题将完成本地私有化部署DeepSeek-R1系列大模型,开发一体机平台软件,应用于政务服务、房产交易、安全生产等场景,服务集团内部各部门和政企客户。
针对多种大模型的
提示词工程研究
大模型生成内容的质量和准确性高度依赖输入提示词,但当前大模型应用面临提示词编写门槛高、场景适配性不足等问题。不同模型对提示词的响应差异显著,缺乏通用指导,人工设计提示词不仅耗时,且难以评估效果。为进一步优化大模型使用体验,集团针对多种大模型的提示词工程研究课题应运而生。
该课题针对DeepSeek-R1系列推理大模型、Qwen系列指令大模型编制对应的提示词编写教程,提升编写提示词的能力和质量,进而提升大模型的生成质量和效果。同时,基于大模型实现自动化提示词生成及优化,并进行自动化评估提示词质量。
课题的特色在于双模型适配,针对DeepSeek-R1(推理)与Qwen(指令)的架构差异,设计差异化提示词策略;实现全自动化流程,从提示词生成、效果评估到迭代优化,形成闭环管理,减少人工干预。
据了解,该课题将于6月底前结题,届时将输出提示词自动生成及优化工具,以及DeepSeek-R1与Qwen提示词编写指南,赋能日常办公,服务集团内部各部门及子公司和政企客户。
面向未来,集团也将继续坚持科技创新
不断加大研发投入
持续推出更多技术领先、质量过硬的新产品
朝着国内一流的现代数据产业集团发展目标
阔步前行
编辑:郭鑫、马之豪
一审:李猛
二审:韩溶
三审:李明烨
如需转载,请注明来源

