作者|沙丘智库研究团队
来源|沙丘社区(www.shaqiu.cn)
大模型的全称是大规模预训练模型,是指参数规模超过十亿级别的“预训练深度神经网络模型”,基于“大数据+大算力+大算法参数网络结构”进行训练,实现海量知识“记忆”。
数据的日益增多、算法的持续演进、算力的不断突破推动了大模型的出现,开启通用人工智能的新纪元,将人工智能从基于小模型的“小数据、单任务”向基于大模型的“大数据、多任务”推进。
2022年底ChatGPT的出现引发了世界范围内对大模型的关注。2023年,是中国大模型的发展“元年”,百模大战拉开序幕。2024年,是企业真正开始使用大模型技术并从中获得业务价值的一年。2025年初,DeepSeek发布引发全球轰动,进一步降低企业大模型应用门槛,并开启“智能体元年”,AI Agent将迎来规模化落地浪潮。
在过去的一年里,沙丘智库跟踪调研了国内外各行业头部企业超1000个大模型落地案例,输出800多份深度案例研究以及60多份大模型行业研究报告,已成为全球范围内大模型市场的主要参与者和观察者,也被上千家上市企业战略/IT中高层订阅。
本文汇总了沙丘智库近期在大模型方向的部分研究成果,包括大模型的应用场景和价值、落地现状、技术实现方式、市场格局、安全和风险管理等,旨在回答企业想要了解的关于大模型的热门问题。
Q1:企业如何识别大模型应用场景的业务价值、成本与风险?
Q2:企业应如何选择大模型应用场景?
Q3:当前,大模型在哪些场景的应用成熟度较高?
Q4:大模型在各行业的落地情况如何?
Q5:有哪些值得参考的大模型落地案例?
Q6:企业如何选择大模型的建设路径?
Q7:企业如何制定AI基础设施战略?
Q8:企业如何构建RAG系统?
Q9:企业如何构建基于大模型的AI Agent?
Q10:大模型领域有哪些值得关注的厂商?
Q11:AI Agent领域有哪些值得关注的厂商?
Q12:企业如何应对大模型带来的风险?
Q13:企业如何为员工制定大模型培训计划?
01
大模型的应用场景和价值
Q1:企业如何识别大模型应用场景的业务价值、成本与风险?
沙丘智库将企业的大模型应用分为三类:
• 防御型用例:改善特定任务,但不会给企业带来额外的竞争力,例如员工办公助手、代码助手、营销内容生成等;
• 差异化用例:改善特定的业务流程,为企业带来差异化优势,例如客服助手、销售助手等;
• 变革型用例:创造新的产品、市场或流程,通常具有行业属性,例如智能理赔(保险)、药物研发(医疗)等。
每类用例具有不同的潜在收益、成本和风险,详见《如何确定大模型用例的业务价值、成本与风险》。
Q2:企业应如何选择大模型应用场景?
针对众多大模型应用场景,企业应从业务价值和可行性两个维度进行应用场景的筛选和优先级排序。
在《2025年中国保险业大模型应用场景评估报告》中,沙丘智库确定了当前对保险公司而言最有价值、最具可行性的17个大模型应用场景,包括代理人销售助手、员工知识助手、自动化理赔审核、代理人智能陪练、智能办公助手、个性化营销内容生成、客服坐席助手、编码助手、销售机器人(面客)、核保助手、客服机器人(面客)、ChatBI、测试用例生成、理赔助手、保险产品推荐、欺诈检测、审计助手。同时,沙丘智库对这些应用场景按照业务价值与可行性进行优先级排序,旨在为保险公司大模型应用选择提供参考。
在《2024中国银行业大模型应用场景评估报告》中,沙丘智库确定了当前对银行业而言最有价值、最具可行性的20个大模型应用场景,包括员工知识助手、智能文档助手、客服坐席助手(对内)、智能编码助手、智能办公助手、数据分析助手、软件测试助手、个性化营销素材生成、智能运维助手、信贷审批助手、反洗钱报告生成、对话交易助手、虚拟数字客服(对外)、智能营销助手、智能财富助理(对外)、合规审查助手、异常交易检测、智能审计助手、监管合规政策解读、贷后催收助手。同时,沙丘智库对这些应用场景按照业务价值与可行性进行优先级排序,旨在为银行业大模型应用场景选择提供参考。
在《2024年中国证券业大模型应用场景评估报告》中,沙丘智库确定了当前对证券公司最有价值、最具可行性的17个具体应用场景,包括投顾助手(对内)、投研助手、编码助手、风控合规助手、文档撰写助手、智能办公助手、市场情绪分析、智能客服、风险预警、量化因子挖掘、智能营销、自动化交易、虚拟数字人、基于大模型的智能投顾(面客)、投资组合管理、监管合规政策解读、客户身份验证。同时,根据对证券公司与大模型技术厂商的调研,对这些应用场景按照业务价值与可行性进行优先级排序,旨在为证券公司的大模型应用选择提供参考。
02
大模型的落地现状
Q3:当前,大模型在哪些场景的应用成熟度较高?
从场景分布上看,2024年大模型落地案例中智能客服(13.6%)场景占比最大,其次为知识助手(10.6%)、数据分析(9.2%)、员工办公助手(7.6%)、虚拟助理(7.6%)。
大模型在智能客服场景的应用价值体现在两方面,一方面是对内赋能,为客服人员提供辅助,目前这类应用占比较大;另一方面是对客直接提供服务,由于大模型存在幻觉问题,目前这类应用占比较小,尤其是对严谨性要求较高的场景,对客使用尤其需要谨慎。在《2024年“大模型+智能客服”最佳实践报告》中,沙丘智库基于对企业“大模型+智能客服”落地实践的调研与研究,总结大模型赋能智能客服的八个能力、“大模型+智能客服”的三种建设方式、“大模型+智能客服”应用场景优先级评估以及大模型+智能客服”面客使用的三个策略。同时,精选了27个“大模型+智能客服”实践案例,涉及金融、通信、IT/互联网、政务、能源等多个行业,旨在为企业落地“大模型+智能客服”提供经验借鉴。
在数据分析场景,大模型能够以更自然、更智能的方式理解数据的语义,从而为数据分析提供更精准、更深入的解读。这种结合不仅能够提升数据分析的效率,还能够挖掘出传统方法难以发现的隐藏信息,为企业带来全新的视角和价值。在《2024年“大模型+数据分析”最佳实践报告》中,沙丘智库基于对企业“大模型+数据分析”落地实践的调研与研究,为企业提供一份全面的应用指南,包括“大模型+数据分析”的技术实现路径、企业采纳现状与22个典型实践案例(涉及互联网、金融、汽车制造等行业)等。
随着大模型在数据分析场景应用的深入,企业有必要深入考虑语义层建设的重要性。语义层是连接数据与业务逻辑的桥梁,它能够将复杂的数据转化为易于理解和应用的知识。通过语义层的建设,企业可以实现数据的标准化、规范化和语义化,从而让数据真正“活”起来。无论是业务人员、数据分析师还是决策者,都能够通过语义层快速获取所需信息,并基于这些信息做出更明智的决策。沙丘智库发布的《“大模型+数据分析”系列研究:语义层建设指南》,旨在深入研究语义层的定义与核心功能、语义层的三种技术实现路径、语义层在对话式数据查询中发挥的作用,并为企业级语义层建设提供参考指南。
Q4:大模型在各行业的落地情况如何?
从行业分布上看,2024年大模型落地案例中金融(36.7%)行业占比最大,其次为制造(14.7%)、IT/互联网(12.2%)、消费品与零售(8.1%)、能源(6.0%)。其中,在金融行业,尤以银行业(15.4%)占比最高。
针对金融、制造、消费品零售等细分行业,沙丘智库进行了系统性的大模型应用跟踪:
在《2025年中国银行业大模型应用跟踪报告》中,沙丘智库全面解读银行业大模型落地进展,从国有银行、股份制银行、城商行中选择了9家银行(中国工商银行、中国邮政储蓄银行、招商银行、中信银行、中国民生银行、华夏银行、北京银行、江苏银行、青岛银行)作为标杆对象,深入研究这些银行的大模型技术体系、建设路径、应用场景、落地方法论等。同时,针对知识库类、智能客服类、数据分析类、代码类以及创新场景类应用,精选了22个银行业大模型典型案例,旨在为其他银行提供经验借鉴。
在《2025年中国保险业大模型应用跟踪报告》中,沙丘智库全面解读保险业大模型市场概况,洞察行业发展趋势,为保险公司提供制定大模型战略的关键考虑因素和实施路径。深入剖析中国人保、中国太保、泰康保险集团、阳光保险等标杆企业的大模型应用实践;精选了12个保险业大模型典型案例,展示大模型在保险业务全流程中的创新应用。
在《2025年中国消费品零售业大模型应用跟踪报告》中,沙丘智库按照应用场景的受众和性质,将消费品零售业大模型应用场景按照人(用户侧)、货(产品侧)、场(销售侧)、通用场景进行划分,并针对这些应用场景精选了36个消费品零售企业大模型典型案例,旨在为其他消费品零售企业提供经验借鉴
在《2024年国资央企大模型应用跟踪报告》中,沙丘智库深入分析国资央企大模型的落地现状(包括建设目标、建设进展、建设路径、应用场景等),并选择8家头部国资央企(中国电信、中国移动、中国联通、国家电网、南方电网、中国石油、中国石化、中国一汽),深入研究其“AI+专项行动”布局与大模型实践,旨在为其他央企提供参考。
在《2024年中国工业大模型应用跟踪报告》中,沙丘智库深入分析工业大模型的落地现状(包括渗透环节、场景分布、细分行业分布、模型类型、建设路径等)、典型案例和未来展望,为工业企业大模型建设提供决策参考。
Q5:有哪些值得参考的大模型落地案例?
企业需要持续跟踪大模型技术的最新动态,以确保能够挖掘大模型技术的应用潜能,这对于企业保持竞争力、创新和适应市场变化来说至关重要。
沙丘智库《大模型应用跟踪调研》采取按月更新的方式,通过企业调研、公开信息等多种渠道,收录的案例均为已产生阶段性成果、值得企业参考的案例,旨在帮助企业及时了解大模型应用的最新进展,调整战略规划,确保技术投资与未来的发展方向一致。
已经发布的《大模型应用跟踪调研》如下:
《大模型应用跟踪调研(2025年4月)》:收录46个大模型案例,覆盖13个行业、21个应用场景;
《大模型应用跟踪调研(2025年3月)》:收录55个大模型案例,覆盖15个行业、20个应用场景;
《大模型应用跟踪月报(2025年1-2月)》:收录65个大模型案例,覆盖16个行业、21个应用场景;
《大模型应用跟踪月报(2024年12月)》:收录58个大模型案例,覆盖15个行业、22个应用场景;
《大模型应用跟踪月报(2024年11月)》:共收录49个大模型案例,覆盖12个行业、19个应用场景;
《大模型应用跟踪月报(2024年10月)》:收录51个大模型案例,覆盖12个行业、16个应用场景。
03
大模型的技术实现路径
Q6:企业如何选择大模型的建设路径?
对企业而言,大模型的建设路径有多种,企业需要了解每种大模型建设路径的技术差异以及优缺点,考虑所有关键因素,由此选择最合适企业的大模型建设路径。
沙丘智库将大模型的建设路径分为五种:购买嵌入了大模型的应用、调用大模型的API接口、通过信息检索扩展大模型、在大模型的基础上微调、自建基础大模型,沙丘智库对比了这五种大模型建设路径的优劣势,并为企业提供了一种选择大模型建设路径的决策框架(详见《企业如何选择大模型的建设路径?》)。
Q7:企业如何制定AI基础设施战略?
DeepSeek等前沿AI模型通过算法创新降低了对基础设施资源的需求,使得AI技术更加普及,企业可以更经济地部署和使用AI模型。企业需要将未来的AI基础设施战略与这些资源利用率高的模型对齐,以最大化AI创新的效益,优化基础设施投资,并确保适应未来变化。(详见《DeepSeek将如何影响企业基础设施战略?》)
Q8:企业如何构建RAG系统?
RAG(Retrieval-Augmented Generation,检索增强生成)是一种人工智能框架,旨在利用大语言模型(LLM)进行跨外部知识源的自然语言查询。RAG的核心思想是通过“外挂知识库”的方式给大模型提供更可靠的知识来抑制模型产生幻觉,通过定期迭代知识库的方式解决大模型知识更新慢和训练成本高的问题。
在实践RAG的过程中,企业会发现RAG走通很容易,但实际落地生产的难度非常大。在《2024年“大模型+RAG”最佳实践报告》中,沙丘智库总结了企业在RAG系统建设中的常见问题与最佳实践。为企业提供一份全面的RAG应用指南,以及18个典型案例作为参考。
除了上述对RAG链路本身的优化以外,对RAG系统的性能进行持续监控和评估也是确保其在实际应用中高效、可靠且安全运行的关键。因此,沙丘智库《RAG系统评估方法论研究报告》通过研究RAG系统的评估方法,旨在为企业RAG系统的应用投产提供参考。
Q9:企业如何构建基于大模型的AI Agent?
2025年是“智能体元年”,AI Agent将迎来规模化落地浪潮。沙丘智库观察到AI Agent的技术路径正在走向统一,通用型AI Agent的雏形已经出现,企业级AI Agent应用价值在部分场景也已被验证,越来越多的厂商涌入这一领域,形成了复杂且多元的产业生态。
面对这一快速变化的新兴市场,沙丘智库近期发布了多份AI Agent相关研究报告,旨在通过系统性的技术研究,更好地帮助企业决策者、投资者以及行业从业者理解技术发展趋势、市场竞争格局、把握发展机遇。
《AI Agent架构设计模式研究报告》:沙丘智库将当前最常见、最成熟且最重要的基于大模型的AI Agent的架构设计模式分为7大类、具体26种,通过合理使用这些模式,企业可以构建出高效、可靠且安全的AI Agent系统。
《2025年中国AI Agent开发平台市场跟踪报告》:本报告旨在深入剖析中国AI Agent开发平台市场的现状与趋势,从产品核心功能、使用场景、用户需求分析、技术实现路径、典型供应商等多个维度,对AI Agent开发平台市场进行全面跟踪与研究。为相关企业、投资者、开发者以及关注该领域的专业人士提供全面、客观、深入的市场洞察。
《2025年AI Agent应用最佳实践报告》:本报告为企业提供了一份全面的AI Agent建设指南,并精选了21个企业级AI Agent应用实践案例,覆盖数据分析、智能客服、智能运维、软件开发等场景,为企业落地AI Agent应用提供参考。
04
大模型的市场格局
Q10:大模型领域有哪些值得关注的厂商?
随着生成式AI技术的飞速发展,越来越多的厂商涌入这一领域,形成了复杂且多元的产业生态。为了更好地呈现生成式AI领域的竞争格局和发展态势,沙丘智库发布《2025年中国生成式AI主流厂商市场指南》,报告中精心绘制了「生成式AI主流厂商全景图」,帮助从业者快速了解生成式AI产业全貌。
Q11:AI Agent领域有哪些值得关注的厂商?
在需求的推动下,AI Agent市场逐渐衍生出支持AI Agent应用构建的平台层市场以及面向不同用户和场景的应用层市场。
在《2025年中国AI Agent主流厂商市场指南》中,沙丘智库精心绘制了「2025年中国AI Agent主流厂商全景图」,帮助从业者快速了解AI Agent产业全貌。
05
安全和风险管理
Q12:企业如何应对大模型带来的风险?
企业在使用大模型时的潜在风险包括:数据隐私和保密性、生成内容的准确性、网络安全、员工滥用、违反法律法规、供应商风险,企业需要实施相应的治理和安全控制措施,并了解数据、隐私和安全相关的法律法规(详见《企业使用大模型的风险与应对》)
随着大模型技术的发展,越来越多的企业根据自身需求定制开发AI Agent以更好地赋能业务,但也引入了传统软件系统不具备的新型攻击面和风险。《企业级AI Agent安全防护操作指南》是一份指导企业如何在享受AI Agent技术红利的同时,系统性防御其新型安全风险的操作指南。
Q13:企业如何为员工制定大模型培训计划?
人才是企业充分发挥大模型潜力的关键,但当前企业在大模型人才准备方面明显不足。为了提高员工大模型技能,企业应根据大模型建设目标为员工制定与创造价值直接相关的培训计划,
《企业如何为员工制定大模型培训计划?》旨在帮助企业解答:如何确定大模型的培训目标?如何制定不同层次的培训计划?以及如何评估大模型培训的有效性?
*更多生成式AI研究可前往“沙丘智库”小程序查阅
*有任何需求可咨询客服微信:zimu738

