随着以大模型为代表的人工智能技术持续推进，关于一味追求参数“量变”的规模比拼进入冷静期，行业开始关注如何通过大模型应用的“质变”，在具体场景中产生真正价值。
凭借围绕京东言犀大模型的技术深耕与实践积累，大小模型协同这一理念，已成为京东云推动大模型落地的关键技术路径。大模型负责输出通用能力，小模型负责实际推理执行，一方面提升系统的覆盖度和准确率，另一方面亦可降低推理延时、保证隐私数据安全、节约算力。
京东科技领航营销平台（以下简称领航者），秉承大小模型协同理念，依托持续迭代的领先技术，领航者不断推进大模型在金融营销场景落地，目的在于助力金融营销实现降本增效，并实现从效率到效果提升的进阶：
过去涉及产品、研发、算法、设计、分析师等多类职能才可完成的流程，如今只需要1人；从策划到落地需要14天才能完成的一场营销活动，现在被极致压缩到1天上线，新业务营销流程自动化改造只需1-2天，周期性活动配置效率预估提升至少20%
从大促前预热到活动中的用户触达，低成本生成更符合金融业务特征的多套文案与素材，并按照用户特征来组合投放，实现营销的千人千面；同时，相较传统系统对接方式，有效的缩短了至少一倍的时间
领航者目前正在通过多页面/多素材投放，助力营销增长
以技术驱动大小模型协同，源于业务自身需求。
过去，金融行业落地一场营销往往需要横跨多个系统，比如营销活动要搭个系统，营销策略也要搭个系统，不同系统的业务知识、用户目标、用户表述各不相同。但大模型的信息窗口有限，如何在同一框架下把这些系统管理在一起，还要解决窗口过长的遗忘问题、专业知识的注入问题，这些都是极大的挑战。
为此，领航者通过三个步骤实现技术升级：
第一，引入向量数据库和RAG架构实现主框架联动大模型完成串联，一站式整合分散的运营环节、物料、数据，实现金融领域全场景、全功能的接入；
第二，用开放平台的概念，引入Application、Domain、Skill三层架构，将核心能力与主框架融合，让能力调用更加便捷。还定义了一套大模型与内部业务系统交互的规范，使内部业务系统API能快速与大模型整合，利用大模型驱动API调用。其中，新业务若接入领航者的一站式体系，相比较传统体系对接，成本降低至少一倍；
第三，进一步引入Multi Agents概念，以主动服务方式自动完成复杂任务的协同。同时，将业务流程SOP引入大模型的任务规划，提升大模型任务拆解和流程规划的可控性。
通俗的说，就是最上层由一个总的Agent负责和用户交互、识别理解用户意图，然后通过对任务的拆解，对应到不同的工具API进行编排，再调度到具体的领域小模型，最终满足营销中诸如活动搭建、活动投放、分析洞察等特定目标。
底层大模型则提供通用能力，使现有系统和后续接入的系统，能够快速调用素材生成、文案生成、NL2SQL、知识库问答等能力，从而提高营销效率。其中，面向需求、面向指标的SQL生成方式，提升NL2SQL准确率至95%+，通过构建分析框架，让用户在Agent协作下自主完成活动运营分析。
这样一来，底层的通用能力负责各个系统的快速调用；上层的应用能力完成具体的营销动作，比如页面搭建、图片生成、风格设定，以及流量分发投放和数据分析。
比如在投放策略方面，领航者创新营销策略生成模型，覆盖从对话式意图识别的自动化策略到策略调优。对于初阶/高阶运营，该领域小模型聚焦不会用、不好用的问题，通过策略生成与推荐方式，帮助运营快速生成业务策略。如此一来，运营配置效率显著提高，从1小时压缩至5分钟以内。
当算法对业务有足够理解，才能解决业务的实际问题。领航者的优势，正在于京东金融场内4.6亿用户和十余年金融行业Know-How，这些专业知识沉淀构建的数据集，让领航者的算法更懂业务的需求。
领航者在锻造中，定义了AIGC中文案生成和图片生成的可量化的多维评价标准，提升算法迭代效率：由业务方提供高质量种子数据以及行业素材经验，算法基于种子数据构建数据评价模型，以实现大规模生成新的训练数据。
京东金融运营团队将多年沉淀的营销理论、实践经验，凝结成金融运营白皮书，作为知识背景“喂”给大模型。同时协助算法团队打标，将历史优秀文案进行结构化拆解，梳理出了触发时机、文案技巧、文案风格等信息，以此激发大模型的CoT能力，形成更强的泛化能力，使其在新的场景中也可以生成优质营销文案。
目前，领航者内置专业运营文案写作技巧，支持push、短信、资源位、短文等多类营销文案生成，覆盖金融现有几十个业务线，可切换多种文案风格；还通过引入推荐理由，打造精细化内容；引入文案生成ctr预估模型，将效率与转化效果相结合。经过技术不断迭代，由领航者自动生成的文案，在金融领域已达到中级运营水平。
京东金融算法工程师将设计师头脑中的专业设计知识转化为参数，将百万级京东积累素材灌入大模型，指定风格素材更达到万级扩充。为了让素材具备更高可用性，算法工程师团队引入了主动学习的方式，在模型迭代过程中，由28位专业设计师每人每天用1小时主观评分，加速模型收敛。目前，由领航者生成的营销素材，可用率超40%，头图生成达到初级设计师水平。同时，通过主视觉和风格AI生成的方式，减少UI制作时长和配置流程，配置时长预计缩短20%。京东金融“15理财日”“18权益日”的素材生成任务，已经全部交给了领航者。
此外，领航者还探索出轻量插件助手，支持文案生成、图形生成、数据分析、营销物料、智能知识库，轻便、小巧且实用，打破了固有的系统壁垒，深度融入运营工作的各个环节。
由此，领航者从技术角度定义了一套AIGC SOP，针对用户输入进行关键信息的抽取、意图理解、金融知识增强、prompt转配、模型生成，以形成更好的营销效果。
京东（佛山）数字经济产业园创新服务中心
来源：京东云
排版编辑：关梓晴
审校：罗钦
