16份深度报告洞悉大模型的业务价值

作者｜沙丘智库研究团队

来源｜沙丘社区（www.shaqiu.cn）

2022年底，ChatGPT的发布引发了世界范围内对大模型的关注；

2023年，是中国大模型的发展“元年”，开启通用人工智能的新纪元，将人工智能从基于小模型的“小数据、单任务”向基于大模型的“大数据、多任务”推进；

2024年，被视为大模型落地的元年，业界在注重技术提升的同时，更重视落地应用。

虽然当前大多数企业都将大模型用于中低风险的内部场景实施上，但随着生产力工具和大模型技术的快速发展，企业将在更多核心业务的关键应用场景中部署大模型。从长远来看，基于大模型的对话式界面将促进技术商业化，使人工智能和其他技术进一步平民化。

在过去的一年里，沙丘智库跟踪调研了国内外各行业头部企业超1000个大模型落地案例，输出700多份深度案例研究以及30多份大模型行业研究报告，已成为全球范围内大模型市场的主要参与者和观察者。

本文汇总了沙丘智库过去一年在大模型方向的部分研究成果，帮助企业快速了解大模型的落地进展、大模型的应用场景和价值、大模型的技术实现路径以及大模型的最佳实践案例。

01

大模型的落地进展

在《2024中国大模型技术采纳现状调研报告》中，沙丘智库面向86名企业技术相关负责人发起调研，旨在探索和评估企业在采纳大模型技术方面的进展、挑战和机遇。

当前，中国企业正在积极探索大模型，52.3%的企业正在使用、31.4%的企业计划使用。从行业来看，金融、IT/互联网、通信、能源等细分行业引领大模型技术应用；

注：沙丘智库将企业对大模型的采纳分为五个阶段——正式投入生产、POC试点、应用开发、暂未使用但未来1年内有计划以及未来1年没有使用计划。其中，处于正式投入生产、POC试点、应用开发阶段的为正在使用，处于暂未使用但未来1年内有计划以及未来1年没有使用计划的为未使用。

• 但与全球相比，中国企业正式投入生产的大模型应用相对落后（全球为21%、中国为9%），且正式投产场景中，以赋能型应用为主，直接面客类应用较少，难以使企业获得差异化竞争优势；

• 影响企业大模型采纳的关键因素包括缺少合适的落地场景、数据可用性和数据质量问题、大模型能力和应用成熟度不足。

除了对整体市场的跟踪以外，沙丘智库还进一步研究金融、工业（包括能源、制造等）、国资央企等细分市场的大模型落地进展。

在《2024年中国银行业大模型市场跟踪报告》中，沙丘智库将六大国有银行作为标杆对象，研究六大国有银行的大模型布局、落地路径及应用场景等，旨在帮助其他银行洞察技术趋势、识别市场机会、学习成功经验、评估与管理风险。

· 从技术路线上看：出于对自主安全可控的考虑，六大国有银行普遍采取自建或与专业机构联合共建的方式，基于“商用+开源”基础大模型构建金融行业大模型，并同步建立大规模算力集群、高质量数据体系、多元化算法矩阵，完善大模型技术体系；

· 从部署方式上看：为了应对金融行业数据隐私安全的挑战，六大国有银行普遍采取私有化部署方式，并在模型训练、推理等环节保证数据“隔离”，提升大模型安全应用能力；

· 从投产进度上看：工商银行、邮储银行、建设银行的投产进度位于同业前列，其中工商银行已在办公、运营、客服等多个场景全面投产上线大模型，农业银行、交通银行、中国银行在部分场景试点大模型应用，并持续推进更多场景研发；

· 从应用场景上看：银行大模型应用整体上相对谨慎，当前六大国有银行无论是投产应用还是试点应用均以对内赋能为主，为行内员工提供智能辅助工具，并未直接对外部客户开放使用。

在《2024年国资央企大模型应用跟踪报告》中，沙丘智库深入分析国资央企大模型的落地现状（包括建设目标、建设进展、建设路径、应用场景等），并选择8家头部国资央企（中国电信、中国移动、中国联通、国家电网、南方电网、中国石油、中国石化、中国一汽），深入研究其“AI+专项行动”布局与大模型实践，旨在为其他央企提供参考。

在《2024年中国工业大模型应用跟踪报告》中，通过对183个国内工业大模型应用案例的深度分析与调研，沙丘智库得出如下结论：

第一，工业大模型的应用已经渗透到工业价值链（研发设计->生产制造->经营管理->产品服务）的多个环节，其中生产制造环节的落地案例最多（占比44.8%） ，但大多是利用大模型辅助员工进行更好地决策，从而提高效率或质量。

第二，从细分行业看，电力、煤炭、汽车制造、电子制造、钢铁等细分工业行业大模型落地速度较快。制造类企业当前首选的大模型落地场景为产品服务环节，能源类企业则更多将大模型用于生产制造环节。

第三，工业企业落地应用的大模型以语言大模型为主（占比51.9%），但长期来看，多模态大模型、预测大模型等将在工业领域扮演越来越重要的角色。

第四，工业大模型的建设路径主要分为三种——直接购买嵌入大模型的应用、RAG扩展或参数微调大模型、自建特定领域专用大模型。当前，工业企业落地大模型的方式主要是RAG扩展或参数微调大模型（占比47.0%）。

02

大模型的应用场景和价值

为了帮助企业更好地选择大模型应用场景，沙丘智库推出《大模型应用场景评估报告》系列，从业务价值和可行性两个关键维度对大模型应用场景进行优先级排序。

在《2024中国银行业大模型应用场景评估报告》中，沙丘智库确定了当前对银行业而言最有价值、最具可行性的20个大模型应用场景，包括员工知识助手、智能文档助手、客服坐席助手（对内）、智能编码助手、智能办公助手、数据分析助手、软件测试助手、个性化营销素材生成、智能运维助手、信贷审批助手、反洗钱报告生成、对话交易助手、虚拟数字客服（对外）、智能营销助手、智能财富助理（对外）、合规审查助手、异常交易检测、智能审计助手、监管合规政策解读、贷后催收助手。

在《2024中国证券业大模型应用场景评估报告》中，沙丘智库确定了当前对证券公司而言最有价值、最具可行性的17个大模型应用场景，包括投顾助手（对内）、投研助手、编码助手、风控合规助手、文档撰写助手、智能办公助手、市场情绪分析、智能客服、风险预警、量化因子挖掘、智能营销、自动化交易、虚拟数字人、基于大模型的智能投顾（面客）、投资组合管理、监管合规政策解读、客户身份验证。

在《2025年中国保险业大模型应用场景评估报告》中，沙丘智库确定了当前对保险公司而言最有价值、最具可行性的17个大模型应用场景，包括代理人销售助手、员工知识助手、自动化理赔审核、代理人智能陪练、智能办公助手、个性化营销内容生成、客服坐席助手、编码助手、销售机器人（面客）、核保助手、客服机器人（面客）、ChatBI、测试用例生成、理赔助手、保险产品推荐、欺诈检测、审计助手。

在《2024中国企业IT部门大模型应用场景评估报告》中，沙丘智库定义了15个大模型应用场景，包括代码生成、测试用例和数据生成、威胁检测、非结构化数据处理、IT流程自动化、代码注释生成、代码评审、合成数据生成、自动文档生成、IT问答助手、数据管理、故障排查、日志监控、供应商管理和软件开发规划。

03

大模型的技术实现路径

在大模型的落地实践过程中，RAG和AI Agent已经成为企业必不可少的探索方向。

RAG技术是解决大模型幻觉问题的最经济有效的方式之一。RAG的核心思想是通过外挂知识库的方式给大模型提供更可靠的知识来抑制模型产生幻觉，通过定期迭代知识库的方式解决大模型知识更新慢和训练成本高的问题。在实践RAG的过程中，企业会发现RAG走通很容易，但实际落地生产的难度非常大。基于对企业RAG落地实践的调研与研究，沙丘智库发布《2024年“大模型+RAG”最佳实践报告》，为企业提供一份全面的RAG应用指南，包括RAG系统的最佳实践、参考架构、建设路线图以及18个典型案例作为参考。

AI Agent技术将解决大模型落地的“最后一公里”。大模型缺少在最少的人类监督下自主行动的能力，以及在复杂环境中适应和执行目标的能力，基于大模型的AI Agent利用大模型理解、思考输出的“专家能力”，并附加规划、记忆、执行、工具调用能力，可以替代大量人工执行，消除大模型和真实世界沟通的障碍。基于对企业AI Agent落地实践的调研与研究，沙丘智库发布《2024年AI Agent最佳实践报告》，为企业提供一份全面的应用指南，包括AI Agent市场概览、实现方法、企业应用现状与15个典型实践案例等。

通过沙丘智库对大模型应用的长期跟踪发现，知识管理、智能客服、数据分析等是企业首选的大模型应用场景。为了帮助企业更好地实现技术落地，沙丘智库从企业落地经验中提炼出最佳方法论。

在《2024年“大模型+智能客服”最佳实践报告》中，沙丘智库基于对企业“大模型+智能客服”落地实践的调研与研究，总结大模型赋能智能客服的八个能力、“大模型+智能客服”的三种建设方式、“大模型+智能客服”应用场景优先级评估以及大模型+智能客服”面客使用的三个策略。同时，精选了27个“大模型+智能客服”实践案例，涉及金融、通信、IT/互联网、政务、能源等多个行业，旨在为企业落地“大模型+智能客服”提供经验借鉴。

在《2024年“大模型+数据分析”最佳实践报告》中，沙丘智库基于对企业“大模型+数据分析”落地实践的调研与研究，为企业提供一份全面的应用指南，包括“大模型+数据分析”的技术实现路径、企业采纳现状与22个典型实践案例（涉及互联网、金融、汽车制造等行业）等。

04

大模型的最佳实践案例

企业需要持续跟踪大模型技术的最新动态，以确保能够挖掘大模型技术的应用潜能，这对于企业保持竞争力、创新和适应市场变化来说至关重要。

沙丘智库《大模型应用跟踪月报》采取按月更新的方式，通过企业调研、公开信息等多种渠道，收录的案例均为已产生阶段性成果、值得企业参考的案例，旨在帮助企业及时了解大模型应用的最新进展，调整战略规划，确保技术投资与未来的发展方向一致。

在《2024年生成式AI案例研究简报（7月）》中，沙丘智库收录了从2023年至2024年7月期间的276个值得企业参考的大模型案例。

在《大模型应用跟踪月报（2024年10月）》中，沙丘智库收录了51个值得企业参考的大模型案例，覆盖12个行业、16个应用场景。

在《大模型应用跟踪月报（2024年11月）》中，沙丘智库收录了49个值得企业参考的大模型案例，覆盖12个行业、19个应用场景。

在《大模型应用跟踪月报（2024年12月）》中，沙丘智库收录了58个值得企业参考的大模型案例，覆盖15个行业、22个应用场景。

后续，沙丘智库《大模型应用跟踪月报》也将以按月更新的方式，持续帮助企业及时了解大模型应用的最新进展。

*更多生成式AI研究可前往“沙丘智库”小程序查阅

*有任何需求可咨询客服微信：zimu738

---