AIGC科技前瞻，多模态AI大模型产业链跟踪：科大讯飞、百度、昆仑万维……（2024年1月）



AIGC科技前瞻，多模态AI大模型产业链跟踪：科大讯飞、百度、昆仑万维……（2024年1月）

并购优塾产业链研究

2024-01-02

导读：万万没想到

↑↑ 这里，是你的“科技智库”，想看什么，可随时搜索备查。进公众号，回复行业名，可快速查看相关报告。

↑↑ 加入科技讨论社群，获取报告库、景气跟踪图集、行业脑图，可加微信：bgys2020

人工智能大模型，从早期的源头，发展到现在的多模态AI，具备将文本、图像、视频、音频等多模态信息联合起来进行训练的能力，主要经历了三个阶段，其中：

萌芽期（1950年-2005年）：以卷积神经网络（Convolutional Neural Network，简称CNN）为代表的传统神经网络模型阶段。

1943年，心理学家Warren McCulloch和数学家Walter Pitts提出了一种称为“逻辑神经元模型”的抽象数学模型，它模拟了生物神经元的基本功能（神经元接收输入信号并产生输出信号的过程），这个模型被认为是人工神经网络的起源。

经过几十年波折之后，1998年，现代卷积神经网络的基本结构LeNet-5诞生并在手写数字的识别问题中取得成功，机器学习方法由早期基于浅层机器学习的模型，变为了基于深度学习的模型，为自然语言生成、计算机视觉等领域的深入研究奠定了基础，具备划时代意义。

图： AI大模型发展的三个阶段来源：中国电信

探索沉淀期（2006年-2019年）：以Transformer为代表的全新神经网络模型阶段。

2013年，自然语言处理模型Word2Vec诞生，首次提出将单词转换为向量的“词向量模型”，以便计算机更好地理解和处理文本数据。

2014年，被誉为21世纪zui强大算法模型之一的GAN（Generative Adversarial Nets，对抗式生成网络）诞生，标志着深度学习进入了生成模型研究的新阶段。

GAN由一个生成器（模仿真实样本）和一个判别器组成，二者相互对抗博弈、不断学习，终极目标是使判别器无法判断生成器的输出结果是否真实。

2017年，Google颠覆性地提出了基于自注意力机制的神经网络结构——Transformer架构，奠定了大模型预训练算法架构的基础。

2018年，OpenAI和Google分别发布了GPT-1与BERT大模型，意味着预训练大模型成为自然语言处理领域的主流。

图：大模型参数量演进来源:华龙证券

迅猛发展期（2020年-至今）：以GPT为代表的预训练大模型阶段。

2020年，OpenAI推出了GPT-3，模型参数规模达到1750亿。

2022年11月，搭载GPT3.5的ChatGPT横空出世，凭借逼真的自然语言交互与多场景内容生成能力，迅速引爆互联网。2023年3月，超大规模多模态预训练大模型——GPT-4，具备了多模态理解与多类型内容生成能力。

AI大模型一直在快速进化，目前已经初步形成包括各参数规模（从亿级到百万亿级）、各种技术架构、各种模态、各种场景的大模型家族，且多模态大模型成为AI大模型演化的重要方向。

从海外的OpenAI、Meta、谷歌，到国内百度、华为、阿里、科大讯飞等，都在不断推动多模态大模型的发展。

2023年12月6日，谷歌发布了规模、功能极其强大的AI大模型Gemini。其根据体量大小分为Gemini Ultra、Gemini Pro、Gemini Nano三个版本。其中，Gemini Ultra在在MMLU（大规模多任务语言理解）测试中得分率为90.0%，高于GPT-4，成为首个超越人类专家表现的模型。

今天，我们多模态AI大模型，这条产业链的各个环节，包括：

图：产业链图谱来源：并购优塾

上游——基础层（算力和数据）：以云服务、AI芯片、光模块、数据采集/标注等厂商为主，为行业提供基础性支持。代表公司有英伟达、AMD、华为昇腾、燧原科技、壁仞科技、阿里云，以及复旦微电、中科曙光、中际旭创等。

数据/训练参与者主要包括海天瑞声、科大讯飞、云从科技、汉王科技、拓尔思、云从科技等。

图：通用服务器VS AI服务器成本构成来源：华福证券

中游——模型层：涉及计算机视觉、智能语音语义、机器学习平台等，主要提供人工智能算法等核心技术和解决方案。国内代表公司有百度、华为、商汤、昆仑万维等。

截止11月底，我国已备案20余家AI大模型，多家宣布要面向全社会开放部分功能服务。

图：国内备案大模型来源：国联证券

下游——场景层：可用于办公、文娱、营销、电商、教育等多领域，代表公司有微软、谷歌、百度、科大讯飞、腾讯、阿里巴巴、金山办公、万兴科技等。

从产业链上的参与者近期的增长情况来看:

百度集团——2023Q3单季度，实现总收入344.5亿元人民币，同比增长5.9%；Non-GAAP归母净利润72.7亿元，同比增长23.4%，净利率21.1%，同比上升3.0pcts。

科大讯飞——2023年前三季度，实现收入126.14亿元，同比下降0.37%；归母净利润0.99亿元，同比下降76.36%。

Q3实现营业收入47.72亿元，同比增长2.8%；归母净利润0.26亿元，同比下降81.86%，低于预期。

昆仑万维——2023年前三季度，实现营业收入36.81亿元、同比增长8.31%，归母净利润3.28亿元、同比增长-58.26%。Q3单季度，实现营业收入12.56亿元、归母净利润-2983万元，同比分别增长9.27%、-120.78%；

从机构一致预期增长和景气度来看：

图：Wind机构一致预期增长和景气度情况

来源：Wind、并购优塾

—— 研讨会 ——

2024年1月20日-21日，我们推出《DCF现金流贴现-建模技能速成指南》线下精品研讨会，纯正的建模干货，全流程快速上手实操，希望能帮大家少走弯路。

注：报名咨询，请联系工作人员：bgys2020

2024年3月16日-17日，并购优塾将在上海举办为期两天的《数字化背景下的业财融合、全面预算与资金管理》主题研讨会。本课程从数字化技术发展对财务影响、业财融合、全面预算、资金管理等主要内容出发，目的在于帮助财务总监升级现代财务管理思维与管理方法。

注：报名咨询，请联系工作人员：bgysyxm2018

（一）

一、大模型

AI大模型，全称是"Artificial Intelligence Large-scale Model"，即"人工智能大规模模型"，通常用来描述具有巨大规模参数和训练数据的机器学习模型，如Transformer、GPT、BERT等，属于人工智能时代的“操作系统”。

大模型通常由深度神经网络构建，通过在大规模数据上进行预训练(Pre-training)和微调(Fine-tuning)，学习到丰富的特征表示和知识，能大幅提升人工智能的泛化性、通用性、实用性，是人工智能迈向通用智能的里程碑技术。

大模型代表的预训练-微调范式，相比传统的单任务训练（特定场景的小模型），标志着方法论的重大变革。

参数量的倍数增长是大模型其根本特点，本质依旧是基于统计学的语言模型——大模型的工作就是对词语进行概率分布的建模，利用已经说过的话预测下一个词出现的分布概率（是一种推理能力），而并不是人类意义上的“理解”。

大模型是“大数据+大算力+强算法”结合的产物，凝练了大数据内在精华的“隐式知识库”，是实现人工智能应用的载体。可分为单一预训练模型和多模态模型，前者主要为自然语言处理（NLP）和计算机视觉（CV），未来，多模态大模型是行业演化的主要方向。

图：代表大模型来源：长城证券

多模态模型，是指利用不同模态的信息，例如文本、图像、音频和视频等进行处理和分析，不仅可以单独处理每种数据类型的任务，还可以将不同数据类型进行关联和融合，实现综合全面的理解。

图：多模态大模型框架

二、大模型的架构

GPT模型是首个引入Transformer架构的预训练模型，它利用Transformer模型作为特征提取器，GPT-3的成功充分验证了适度增大参数量能显著提升模型的泛化能力和适应性，由此掀起了大模型研究的热潮。

传统的神经网络模型例如RNN（循环神经网络）在实际训练过程中由于输入向量大小不一、且向量间存在相互影响关系导致模型训练结果、效果较差。

而Transformer模型，有三大技术突破解决了这个问题，开启了自然语言处理（NLP）模型设计的新纪元，为大模型的发展奠定了基础。

首先，Transformer模型的Self-Attention（自注意力）机制使人工智能算法注意到输入向量中不同部分之间的相关性（动态分配注意力权重），从而大大提升了精准性。

其次，该模型采用属于无监督学习的自监督学习，无需标注数据，模型直接从无标签数据中自行学习一个特征提取器，大大提高了效率。

再次，在做具体任务时，微调可利用其标注样本对预训练网络的参数进行调整，也可以针对具体任务设计一个新网络，把预训练的结果作为其输入，大大增加了其通用泛化能力。

图：Transformer模型架构来源：华安证券

Transformer的限制在于其输入数据大小，起初只能用于单一模态（文本）中，无法将其self-attention中良好的泛化能力迁移到其他模态（图像、视频等）中。

于是，谷歌借鉴前人的思想，在强大的算力资源加持下，提出ViT模型。ViT模型通过将图片进行切割成一个个patch（原文将一张图片切割成16个patch），对patch进行处理，通过线性映射，变成Transformer可接受的输入，打通了计算机视觉CV和NLP之间的壁垒。

视频领域则基于ViT模型推出各类Video Transformer，视频是一个典型的多模态形式，里面包含图像、声音、文字等。

以TimeSformer为例，其将每一帧视频抽象成图像，并与其前一帧和后一帧相结合进行运算。与3D卷积神经网络（CNN）相比，TimeSformer的训练速度大约是其4倍，而推断所需的计算量不足其十分之一。TimeSformer的高效让在高空间分辨率（例如高达560x560像素的帧）和长视频（包括高达96帧）上训练模型成为可能。

此外，Transformer存在权重共享，模型内部的某些模块可以共享权重参数，也决定其适合多模态大模型。例如，图文多模态中，图像训练得到的权重参数可以用于训练文本，结果依然有效，甚至不用fine-tune。

三、多模态大模型对数据、算力的要求

海外的多模态大模型在文字、图像、音频、空间信息等多维度信息的转换和生成上已有较多探索，国内的多模态大模型主要集中于文字和图像信息的转换。

与自然语言类大模型相比，多模态大模型需要对多种类型数据进行编码、配对、拟合，训练过程更加复杂、技术壁垒更高。对训练数据、算力的要求也更高。

1）数据

得益于开源共创的互联网生态，海外有大量优质、结构化的开源数据库，丰富的语料数据能够提高模型在不同情景下的对话能力。受制于尚未成熟的开源生态，国内开源数据集在数据规模和语料质量上相比海外仍有较大差距，数据来源较为单一，且更新频率较低，从而导致模型的训练效果受限。

因此，大模型厂商的自有数据和处理能力构成模型训练效果差异化的核心。例如百度在搜索领域、阿里巴巴在电商领域、商汤在视觉领域有其独特积累及数据。

此外，多模态大模型的训练数据量庞大、数据类型多样，需要分布式架构下的大数据产品支持。从技术演进角度而言，我国分布式数据平台技术与海外公司发展历史相当，生态方面的差距较小。

基于Hadoop等开源生态，国产分布式大数据平台快速开发和迭代，且在金融、公共部门、能源等行业商业化落地过程中持续打磨产品，性能与海外竞品差距较小。以星环科技TDH为代表的大数据产品不仅凭借分布式架构的优势对传统数据库Oracle、IBM DB2以及Teradata等传统数据库实现了较好的替代，还以较高的性价比和安全性实现了Ealstic Search、CDP等海外分布式架构数据产品的替代。[1]

图：大模型训练数据来源：广发证券

2）算力

表达同级别的信息量，非结构化比结构化所需的数据量更大，例如1MB的数据量可包含500页的文字内容，但却只能是一张图片。与之相比，图像、音频、网页等非结构化数据组织方式更为复杂。多模态大模型需要处理的非结构化数据较多，在训练和推理阶段消耗的成本更大，所需的算力支持更高。

以应用场景分类，较NLP语言模型对比，多模态大模型在参数规模上向千亿级迈进，对带宽的需求延展到了1.6T的高速率标准上。随着大模型数据规模持续膨胀，单体服务器难以满足所有的算力需求，需要将大量服务器通过高性能网络相连，打造大规模算力集群。

图：大模型参数规模来源：东莞证券

算力需求包括训练算力和推理算力。目前来说对训练算力需求非常高，ChatGPT的公开数据显示，其整个训练算力消耗达到了3640 PF-days(即假如每秒计算一千万亿次，需要计算3640天)，换算成英伟达A100芯片，它单卡算力相当于0.6P的算力，理想情况下总共需要大概6000张，在考虑互联损失的情况下，需要一万张A100作为算力基础，仅算力的硬件投资达10亿元，而整个的数据中心还需要推理算力以及服务器等，规模应该在100亿人民币以上。

国产高端AI芯片在过去几年性能有了较大提升，以华为昇腾910和寒武纪思元370为代表的国产AI芯片已经追赶上英伟达Ampere架构下的AI芯片的性能，但距离其新一代H100仍有一定差距。

根据中金公司测算，GPT-3大模型训练成本中，GPU成本占比在90%以上，其余为电力成本。AI服务器产业链我们近期有过研究，详见《优塾产业链报告库》（搜索“服务器”关键词可见）。

图：大模型训练成本来源：中金公司

图：不同类型AI服务器物料成本结构来源：招银国际

（二）

从收入规模看，2023年中报，百度集团（652亿元）＞科大讯飞（78.4亿元）＞昆仑万维（24.25亿元）。

从收入构成看：

百度集团——2023年中报，百度核心业务占比75.77%（包括在线营销、智能云等），爱奇艺收入占比24.77%。

图：收入结构（单位：亿元）来源：并购优塾

科大讯飞——主营业务包括智慧教育、智慧城市、开放平台、消费者业务、智慧医疗、智能汽车、运营商业务、金融科技等。围绕着持续进步的语音和人工智能技术，建立了一个同时ToB/G 和ToC的业务版图：ToB/G 的业务是为教育、医疗、汽车、办公、金融、智慧城市领域的客户提供数字化、智能化转型方案，2022年收入占比75%；ToC 是开发录音笔、智能办公本、翻译机等硬件产品和讯飞输入法、讯飞听见 APP、虚拟人等软件产品，2022年收入占比25%。

2023年中报，教育领域收入占比30.9%，智慧城市收入占比19.2%，开放平台及消费者业务占比30.9%，运营商大数据占比12.4%，智慧汽车占比2.7%，智慧医疗占比2.4%，智慧金融占比1.2%。

图：收入结构（单位：亿元）来源：并购优塾

昆仑万维——旗下主要业务分为AGI与AIGC、海外信息分发与元宇宙、投资业务等三大板块。

AGI与AIGC业务板块主体昆仑天工Skywork AI，是通过收购Singularity AI并整合原有业务而形成。目前，昆仑天工已形成AI大模型、AI搜索、AI游戏、AI音乐、AI动漫、AI社交六大AI业务矩阵。

海外信息分发与元宇宙业务板块，目前Opera已完成从传统浏览器向人工智能驱动的AI助手与元宇宙平台转型，业务覆盖广告、搜索、信息内容分发、AI助手、元宇宙等多个领域，建立起以浏览器为核心的多元产品矩阵。

投资业务板块，聚焦科技创新型企业的投资，通过“美元+人民币”双币种运作模式，先后投资了熹联光芯、众钠能源、钠创新能源、时的科技等标的，未来主要投资人工智能上下游行业。

图：业务板块来源：安信证券

2023年中报，社交游戏收入占比31.09%，搜索业务收入占比21.9%，网络广告收入占比29.86%，游戏收入占比12.16%。从区域分布看，海外业务收入规模达20.2亿元，同比增长21%，海外业务占总收入比重达83%，同比进一步上升9个百分点。

图：收入结构（单位：亿元）来源：并购优塾

（三）

图：归母净利润增速（单位：%）

来源：并购优塾

从这个行业近期的微观增长情况来看：

一、百度集团——23Q3单季度，实现总收入344.5亿元人民币，同比增长5.9%；Non-GAAP归母净利润72.7亿元，同比增长23.4%，净利率21.1%，同比上升3.0pcts。

1）百度核心：23Q3百度核心收入265.7亿元，同比增长5%，主要系需求复苏助力广告业务同比由降转增，视频内容提升对于广告价格的助力，以及AI助力广告营销业务。其中：

百度正利用文心大模型重构广告系统，在用户产品端改造搜索产品体验，在商业端上线AIGC营销平台“擎舵”，重构广告主营销上的各个环节，预计将在23Q4及后续逐步为百度带来可观的增量收入。

智能云业务23Q3因智慧交通有所承压（高基数，Q4影响该有望下降），个人运营、网盘等仍健康运营。

文心大模型迭代至4.0版本，其理解、生成、逻辑、记忆四大能力得到显著提升，中文综合能力或达到GPT-4相近的水平。To C端：23M11上线文心一言专业版，同时推出文心一言与文心一格的联合会员； B端：灵境插件平台拥有2.7万个开发者入驻，智能云千帆大模型拥有42个主流大模型入驻。

2）爱奇艺：23Q3爱奇艺收入80.2亿元，同比上升7%。Non-GAAP净利润6.22亿元，对应净利率7.8%，降本增效效果显著。日均总订阅会员数达1.08亿，同比增长6.4%；月平均单会员收入（ARM）达15.54元，同比增长11.8%。

图：季度归母净利润及增速（单位：亿元）

来源：并购优塾

二、科大讯飞——2023年前三季度，实现收入126.14亿元，同比下降0.37%；归母净利润0.99亿元，同比下降76.36%。

单Q3实现营业收入47.72亿元，同比增长2.8%；归母净利润0.26亿元，同比下降81.86%，低于预期。主要系G端教育、智慧城市等业务受客户资金压力影响而承压，同时加大AI大模型投入所致。

图：季度归母净利润及增速（单位：亿元）

来源：并购优塾

三、昆仑万维——2023年前三季度，实现营业收入36.81亿元、同比增长8.31%，归母净利润3.28亿元、同比增长-58.26%。

Q3单季度，实现营业收入12.56亿元、归母净利润-2983万元，同比分别增长9.27%、-120.78%；Q3业绩大幅下滑主要受投资收益及费用投入（研发投入、股权激励）影响；实现经营性净利润1.0亿元，环比增长29%；海外业务占比进一步提升至84%、同比增加近9个百分点。

前三季度公司研发费用达到6.2亿元，相比上年同期增长28.18%；其中Q3单季度研发投入达到2.69亿元，同比增长51.12%，主要是AIGC相关业务投入增加所致。

图：季度归母净利润及增速（单位：亿元）

来源：并购优塾

（四）

图：净现比、经营活动现金流&资本支出（单位：亿元）

来源：并购优塾

昆仑万维净现比较低，主要是其净利润中投资损益、公允价值变动损失占比较高。三家经营活动现金流量净额均能覆盖资本支出。

（五）

图：综合毛利率（单位：%）来源：并购优塾

图：净利率（单位：%）

来源：并购优塾

图：ROE-TTM 来源：并购优塾

图：ROE拆解来源：并购优塾

三家主业结构不同，表现出的盈利能力存在差异。昆仑万维净利率明显下滑，主要是投资收益减少所致。

图：产业链代表公司业绩数据来源：wind、并购优塾

由于AIGC处于发展初期，产业链代表公司的增长和盈利受原有业务影响较大。AI大模型产业链上，上游芯片供应商处于近乎垄断地位，属于价值量核心。

从大模型环节来看，国内正处于各种大模型“遍地开花”的过程中，单看模型的壁垒其实并不算高，许多公司都能做（国内短短2年已备案20多家），大模型并不是做出来就能赚钱，谁最后能真正胜出，还是取决于公司自身之前积累的数据体量、应用场景和落地能力上。

如果只是因为一个公司仅仅能做出模型，就参与击鼓传花、给出过高估值，最终可能会一地鸡毛。

（六）

行业景气度方面，继文生图能力快速嵌入各个大模型之后，文生视频为大模型多模态应用的下一重要方向。近期多家厂商发布相关产品或更新，大幅提升文生视频效果，实现更高清晰度、更高流畅度、视频任意修改等功能。

图：文生视频产品更新来源：招商证券

图：国内上线AI大模型来源：东吴证券

（七）

图：大模型规模构成来源：招商证券

根据大模型之家数据，2022年，全球大模型市场规模超100亿美元，预计未来6年CAGR近50%，国内外大模型已在办公、教育、医疗、金融等领域充分落地。

根据《中国大模型市场商业化进展研究报告》，2023年中国大模型市场规模约为50亿元，其中纯硬件采购约占65%、服务约占20%、软件约占15%；企业用户大模型采购少，预计2024年将开始大量释放采购预算，大模型市场将增长至120亿元，同比增长140%，其中纯硬件采购部分占比将会下降至60%左右，软件与服务占比将会分别提升至约17%、23%。

我们从应用场景、变现模式两个角度看行业增长驱动…………………………