北京中烟创新科技有限公司（简称：“中烟创新”）作为一家专注于人工智能科技的公司，致力于将大模型技术与各行各业深度融合。公司自研的大模型应用开发平台—灯塔，为千行百业的客户提供数字化转型和智能化升级全方位的支撑和解决方案。接下来，本文将引领大家深入探索灯塔大模型应用开发平台的奥秘。
▶ 文章概览
1. LLMOps 的定义
2. LLMOps 微调技术
3. LLMOps 应用构建架构
LLMOps 的概念可以从其组成部分—LLM（大语言模型）与 Ops（运营/操作）的视角阐述。在这里，LLM 指的是利用深度学习技术构建的大规模、高性能的自然语言处理模型，它们能够理解和生成接近人类水平的文本内容。而 Ops 则是指一套管理、监控、优化和部署这些复杂大模型应用程序的平台、工具和方法论。
大模型的构建流程可精炼地划分为三大关键环节：
此阶段是整个构建过程的基石。在这一阶段，海量的数据集被用于训练一个通用的预训练模型。这一过程是模型构建领域竞争最为激烈的战场，各类大模型，无论是开源还是闭源，都起源于此。
在这一阶段，预训练模型不再局限于通用领域，而是根据特定领域的数据集进行微调。通过finetune技术，模型能够深入理解并适应特定领域的专业知识，从而生成更加精准、专业的领域特定模型。
这一过程不仅要求开发者具备深厚的领域知识，还需要熟练掌握大模型的应用技巧，以确保模型能够在实际场景中发挥最佳性能。
最终，经过精心设计与开发的应用，将大模型的潜力转化为实际的生产力，为社会带来更大的价值。
在大模型应用的全面生命周期中，涵盖了从初始开发到最终运维的多个关键环节。其中，一个尤为关键且独特的阶段便是配置阶段，它具体体现在prompt engine（提示工程）的精心设计与实施上。这一阶段不仅是大模型应用中不可或缺的组成部分，更是其性能与效果优化的核心所在。
在Bert等先进预训练模型问世之后，模型微调技术迅速成为主流趋势。就是在保持预训练模型骨架不变的基础上，针对特定任务进行“微调”，使模型更加贴合实际应用需求。
如上图右侧所描绘，多种开源大模型在遭遇特定领域的数据时，经历了一个精心设计的加权过程，随后借助增量微调技术，逐步演化成针对该领域的专业模型。这一过程呈现出一种动态循环、持续强化的特性：随着领域数据的不断清洗与扩充，领域模型的性能也随之逐步提升，形成了一个正向反馈的循环。这种迭代式的方法确保了模型能够随着数据的丰富而日益强大。
1. 基座大模型概述
在介绍具体的微调技术之前，先对基座大模型进行简单的介绍。
▌BERT 模式
▌GPT 模式
▌混合模式
从 BERT 于 2018 年推出开始，深度学习领域的模型架构开始流行。那时，Encoder-Only 的架构成为主流，直到 2019 年谷歌推出 T5 模型，它通过统一的 Text-to-Text 框架引领了新的变革，开辟了 Encoder-Decoder 架构的新趋势。接着，2020 年 GPT-3 的问世让 Decoder-Only 架构逐渐崭露头角。到 2022 年，ChatGPT 的出现使得 Decoder-Only 架构在目前看来占据了主导地位。
• Encoder-Decoder 架构：这种模式的典型代表有 T5、BART 和 GLM 等。它的训练过程包括两个阶段：编码（Encoder）和解码（Decoder）。这种架构主要用于处理广泛的任务，特别适合全面性任务，并且大多为判别式模型。
• Encoder-Only 架构：以 BERT 为代表，这种模式专注于编码阶段，只处理输入的理解和解析，通常应用于理解任务和单一任务场景。它也是判别式模型的一个典型示例。
• Decoder-Only 架构：代表性模型包括 GPT 系列、Palm、LaMDA 和 Bloom 等。此模式采用自回归生成模型的方法，主要用于生成任务和多任务场景。它主要依赖于生成式模型的训练方式，而文心 3.0 也采用了这种架构。
2. PEFT
目前主要的微调技术包括以下几种：
1.全量微调（Full Fine-Tuning）：
缺点：需要大量计算资源和存储空间，可能导致过拟合，特别是在数据量较小的情况下。
2.参数高效微调（Parameter-Efficient Fine-Tuning, PEFT）：
优点：显著减少计算和存储需求，便于在多个任务中共享基础模型。
缺点：可能无法充分发挥模型的潜力，特别是在任务差异较大的情况下。
3.增量微调（Incremental Fine-Tuning）：
优点：可以在已有模型的基础上快速调整，适应新变化。
缺点：如果基础模型的微调效果不好，增量微调的效果也可能受限。
4.少样本微调（Few-Shot Fine-Tuning）：
优点：能够快速适应新任务，并减少对大量标注数据的需求。
缺点：数据量过少可能导致模型性能不足，难以达到高质量的结果。
5.自适应微调（Adaptive Fine-Tuning）：
优点：可以根据任务的特点灵活调整，提高模型的适应性。
缺点：需要更多的经验和调试工作来优化微调策略。
了解了当前主要的微调技术，接下来介绍 LLMOps 的核心部分，即大模型应用构建架构。
大模型平台需要为大模型应用的构建提供便利的组件，以及具体的范式，提供快速搭建应用的能力，包括开发、部署、运维等。
• 静态性局限：大模型的构建耗费巨资，其训练数据往往定格于某一时间点，难以实时吸纳后续涌现的新信息，导致模型在时效性上存在天然缺陷。
• 数据壁垒：大模型虽能广泛学习，但对于特定行业或企业的私密数据却鞭长莫及，这些专属领域的宝贵知识难以被大模型直接吸纳，限制了其在某些应用场景下的深度和精度。
• 成本门槛：高昂的微调成本如同一道门槛，将许多公司和个人开发者拒之门外。即便面对个性化需求，他们往往也只能依赖云端提供的通用大模型，难以根据自身业务特点进行深度定制和优化。
• 透明度缺失：大模型如同一个深邃的黑箱，其输出结果的准确性和可信度常受质疑。我们无法直观判断其回答是基于扎实的知识积累，还是仅仅依靠模式匹配或凭空臆造。这种不确定性在一定程度上削弱了用户对大模型的信任感。
大模型应用的核心构建思路在于最大化利用其原生优势，即通过巧妙设计的问题（question）、明确的主题（topic）或详尽的文档（Doc），结合精心构建的提示（prompt），与大模型进行深度交互，从而激发并提取出所需的内容。这一过程涵盖了广泛的应用场景，如精准问答、内容改写、自动化文档生成，乃至复杂的知识推理等，均能有效利用大模型内置的强大能力。
在构建大模型应用时，我们实际上是在塑造一个智能体（Agent），这是整个构建过程的核心导向，既构成了我们的主要关注点，也带来了技术上的挑战。智能体通过大模型展现其本质功能——即进行对话与推理，这一过程不仅体现了大模型的内在能力，还赋予了智能体一定的自主行动能力。简而言之，大模型应用的核心在于打造一个能够自主对话、推理并据此行动的智能体。
自然语言处理与理解：当前的AI技术，尤其是在自然语言处理和理解方面，仍然有限。Agent可能难以理解复杂或模糊的指令，也无法像人类那样进行深层次的思考和情感理解。这限制了Agent在需要高度理解和推理能力场景中的应用。
规划能力：智能体里核心是大模型的规划能力，但目前还远远达不到让大模型自动规划的程度。大部分智能体平台提供了工作流，需要人为去配置每个分支流程，这增加了使用的复杂性和成本。
2. 数据依赖性
数据质量与多样性：Agent的学习和决策能力高度依赖于数据。如果训练数据有偏差或不足，Agent的决策可能会出现偏差或错误。
数据隐私：在处理个人数据时，Agent可能会引发隐私侵犯的问题。如何确保数据的安全性和隐私性，是Agent落地过程中需要解决的重要问题。
3. 成本与资源
高成本：在一些领域应用AI Agent，成本偏高。这包括调用大模型接口的成本、部署成本等，使得一些企业和个人难以承担。
计算资源：开发和维护高级AI Agent需要大量的计算资源，这也限制了其广泛应用。
4. 隐私保护
隐私保护：在处理个人数据时，Agent需要严格遵守隐私保护法规，确保用户数据的安全性和隐私性。
5. 安全性与可靠性
安全性：Agent可能成为黑客攻击的目标，一旦被恶意利用，可能会造成严重后果。因此，需要采取有效的安全措施来保护Agent免受攻击。
可靠性：Agent的可靠性也是一个问题，特别是在关键任务和决策中。如果Agent出现错误或故障，可能会对用户造成损失或伤害。
中烟创新自研人人可用的一站式企业级大模型应用开发平台。平台提供大模型选型、微调、工作流编排、prompt（提示词）、知识库、智能体创建等完整的全链路应用开发服务。
通过官方网站，微信公众号和咨询热线等渠道，公司可与用户进行线上互动和产品展示。
中烟创新深度融合大模型技术的先进力量，在这一进程中，多个核心环节经历了前所未有的智能化升级，显著提升了运营效率与精准度。
具体而言，智能合同审查系统凭借其卓越的自然语言处理能力，能够精准无误地自动识别并提取合同文本中的关键条款与潜在风险点，不仅极大地缩短了审查周期，且显著提高了审查的准确性与全面性，为企业法务管理筑起了一道坚实的智能防线。
另一方面，智能费用审核解决方案通过深度分析庞大的费用数据，运用复杂的算法模型自动筛查异常与欺诈行为，有效降低了人为错误的风险，确保了财务审核的公正性与高效性。这一创新不仅简化了繁琐的审核流程，还为企业成本控制与财务健康提供了强有力的技术支持！
中烟创新将继续秉持技术创新和客户至上的理念，不断研发和优化大模型应用开发平台，为各行各业提供更多通用的智能化解决方案。
