大数跨境
0
0

专题丨基于解耦、收敛、互联三原则的运营商AI+MaaS IT支撑新模式探索与实践

专题丨基于解耦、收敛、互联三原则的运营商AI+MaaS IT支撑新模式探索与实践 信息通信技术与政策
2025-02-11
0
导读:黄倚霄,张湛梅
※  信息社会政策探究的思想库  ※
※  信息通信技术前沿的风向标  ※


作者简介


 黄倚霄

中国移动通信集团广东有限公司数据分析室经理,高级工程师,长期从事平台架构设计领域、人工智能相关研究工作。

张湛梅

中国移动通信集团广东有限公司大数据开发专家,高级工程师,长期从事大数据领域、人工智能相关研究工作。


论文引用格式:

黄倚霄, 张湛梅. 基于解耦、收敛、互联三原则的运营商AI+MaaS IT支撑新模式探索与实践[J]. 信息通信技术与政策, 2024, 50(12): 31-36.


基于解耦、收敛、互联三原则的运营商AI+MaaS IT支撑新模式探索与实践


黄倚霄  张湛梅


中国移动通信集团广东有限公司,广州 510623


摘要:随着人工智能(Artificial Intelligence,AI)技术的快速发展和广泛应用,企业正积极引入AI技术以实现业务的智能化升级和转型,从而提升竞争力。提出了一种基于解耦、收敛、互联三原则的运营商AI+MaaS IT支撑新模式,并阐述了该模式在平台架构、模型编排、业务互联、算力统一运营以及精准意图识别等方面的探索和实践,解决传统IT架构在灵活性、兼容性和可扩展性方面面临的挑战,推动AI+业务的规模化价值运营。

关键词:AI;解耦;收敛;互联;AI+MaaS


0  引言


随着人工智能(Artificial Intelligence,AI)技术的快速发展和广泛应用,各行各业正经历着前所未有的变革。企业通过引入AI技术,实现业务的智能化升级和转型,已成为提升企业竞争力的重要途径。2024年政府工作报告明确提出,要大力推进现代化产业体系建设,其中加快发展新质生产力成为关键一环。在数字经济领域,要深化大数据、AI等前沿技术的研发应用,特别是开展“AI+”行动,打造具有国际竞争力的数字产业集群[1],为经济高质量发展注入强劲动力。


1  MaaS与AI


当前AI大模型(简称“大模型”)已成为AI行业的关注焦点,掀起了一波大模型研发的浪潮,人工智能成为新的生产工具[2]。业内提出的模型即服务(Model as a Service,MaaS)模式标志着大模型从单纯的技术竞争转向了商业模式的竞争[2],其核心优势在于通过强大的模型底座,提供便捷、可扩展的应用程序编程接口(Application Programming Interface,API)接口和定制服务,极大地降低AI技术的使用门槛。这一模式使得非专业开发者也能轻松利用预训练的AI模型,加速创新与应用落地,进一步释放AI技术的潜力。MaaS在新型工业化中起到了关键作用。它通过提供AI模型,帮助企业提升生产效率,减少人工操作。其次,基于MaaS平台,企业可以通过大数据进行智能决策,优化资源配置和生产流程。同时,MaaS还能降低企业开发AI模型的成本,使中小企业也能享受到智能化带来的红利。最后,MaaS推动了智能制造和工业互联网的发展,使新型工业化向自动化和数字化方向迈进,提升了整体竞争力。


2  运营商AI应用现状及挑战


2.1  AI应用现状

运营商在AI应用方面呈现出多样化的特点,涉及网络优化、客户服务、运营支撑、新业务拓展等多个领域。


在网络优化方面,利用AI技术对网络进行实时监控和优化,提高网络性能和稳定性。例如,通过AI算法分析网络流量数据,预测并缓解网络拥堵问题,以及根据网络状态生成并执行适当的操作,自动化网络管理任务,如故障检测、诊断和排除[2]


在客户服务方面,引入AI客服机器人,提供24小时不间断的客户服务。这些机器人能够处理大量常见问题,减轻人工客服的压力,提高服务效率。在营销领域通过AI技术实现智慧推荐和服务,提升用户体验。例如,根据用户的使用习惯和偏好,智能推荐合适的产品和服务。


在运营支撑方面,利用AI技术优化内部流程,提高决策效率和科学性。例如,通过大数据分析市场趋势和用户需求,为产品开发和市场策略提供数据支持。通过AI技术提高运营效率和准确性,降低运营成本。


在新业务拓展方面,利用AI技术探索新的业务领域和增长点。例如,开发基于AI的智能家居解决方案、智能安防服务等,同时与第三方合作,共同开发AI应用。例如,与科技公司合作开发智能穿戴设备、智能家居产品等。


2.2  AI应用的困难及挑战

虽然运营商已将AI技术广泛应用在多个领域,如智慧网络、智能客服、智慧营销、智能安防等。然而,传统的信息技术(Information Technology,IT)架构在面对多样化的AI需求时,仍然面临诸多痛点难点。


首先,AI+产品需求激增。据本文统计,内外部对AI+产品的需求已呈现每年30%以上的增长率。如智能客服系统,要求部署新模型的时间从过去的3~6个月缩短到1个月以内,但现有架构难以支撑如此快速的响应。


其次,多样化需求的复杂性。运营商的AI需求从简单的数据分析扩展到复杂的机器学习应用,涉及多个业务领域。这些需求增长过快,导致现有系统逐渐无法及时跟上需求的节奏,无法在多个领域同时保证高效的AI能力交付。


再次,目前运营商的AI开发与部署仍依赖传统IT架构,主要通过独立的系统和“数据孤岛”管理算法和模型,导致了资源浪费严重。运营商现有的AI系统中,传统算法、数据挖掘算法和大模型通常分散部署在5个不同平台,资源利用不平衡,且由于缺乏统一管理和灵活编排机制,AI产品上线周期远远滞后于业务需求。根据本文统计,现有的AI系统每月只能满足约50%的新需求,剩余需求无法按时交付或只能部分满足,严重影响了公司的运营效率。


最后,随着算法的复杂性和数据规模的迅猛增长,对算力提出了极高需求。传统的计算资源分配方式已无法满足这些高计算量应用的要求。如何进行算力适配,特别是异构算力适配,如何通过合理分配计算资源,以加快模型训练速度、降低能耗和成本、提高推理效率,成为一大难点。运营商作为网络强国、数字中国建设的中坚力量,积极响应国家号召,推动从“+AI”模式向“AI+”模式的体系转型。在这一转型过程中,以智能技术为核心,重构IT管理支撑、业务支撑和运营支撑体系,实现业务运营模式的智能化升级。而MaaS模式凭借其高效、灵活、易用的特性,成为实现“AI+”战略的重要抓手。


3  运营商AI+MaaS支撑新模式探索


随着大模型技术的发展,微软云Azure、阿里云、华为云、腾讯云、百度云、京东云等云计算大厂,陆续推出了MaaS平台服务,但是都是以“全家桶”的方式统一部署出售,如果客户要切换不同的底座模型,并不能达到预期训练效果。这导致客户,特别是有研发能力的客户,不能灵活选择相应组件进行AI应用开发。


基于上述问题,本文探索一种基于解耦、收敛、互联三原则的AI+MaaS IT支撑新模式。该模式通过打造基于MaaS架构的“平台+生态”模式通用IT架构(图1),实现分层解耦,逐层收敛,统一标准化纳管AI模型、大模型,有效整合自研及第三方生态AI+能力,实现AI+能力的统一管理、灵活编排、敏捷赋能和高效运营,推动AI+业务的规模化价值运营。

图1   运营商AI+MaaS支撑新模式


3.1  解耦、互联、收敛的MaaS架构

如图2所示,为实现AI+能力产品化、生态化,本文构建了解耦、互联、收敛的MaaS平台架构。该平台为AI+应用提供了全方位的支持,无论是算法开发、模型训练还是行业应用的部署,都能提供一站式、高效的服务,助力AI技术在更多领域的广泛应用和创新发展。

图2   MaaS架构


该平台采用南北解耦(通过统一范式和标准,可以选择不同大模型底座)的设计策略,保障平台的灵活性和可扩展性。通过构建算力适配网关、模型适配网关和行业适配网关,打破传统平台各组件间的紧密耦合,实现组件的独立性和可重用性。算力适配网关能够兼容国产化及非国产化异构算力,为平台提供了广泛的算力支持;模型适配网关则统一接入不同生态的模型,实现与行业算法生态的快速对接和引入,丰富了平台的模型资源;而行业适配网关则通过接口适配、场景化编排满足不同行业的个性化需求,增强了平台的适应性。


平台的东西互联(指与各个生产系统无缝对接)贯通设计,也为后续的推广提供了有力保障。通过制定统一的准入标准、数据规范和模型规范,成功打通了内部业务支撑系统(Business Support System,B)、运营支撑系统(Operation Support System,O)、管理支撑系统(Management Support System,M)、服务支撑系统(Service Support System,S)各域系统,实现了系统之间的无缝连接和高效协同,形成一套标准化的应用接入体系。同时打造统一运营体系,收敛产品运营、平台运营、场景运营及模型运营能力,推动平台后续在各行各业的广泛应用,为AI+能力产品化夯实平台能力基础。


3.2  解耦、混合编排,支持多模型多场景联动

在实际项目中,经常会遇到复杂多变的场景,这些场景需要在同一个镜头下实现多个检测目标的结合,远远超出了单一识别场景的范畴。例如,在智慧楼宇项目中,可能需要同时统计人流、识别外卖小哥,并判断保洁员的着装是否规范。这类复杂场景对AI技术的应用提出了更高的要求。


为此,AI+MaaS支撑新模式提供灵活的模型编排能力,实现不同生态下原子模型的解耦与混合编排,使得可以将这些原子模型组装成一个新的、适应特定业务场景的能力。这一过程中,充分考虑了算法之间的互补性和协同性,以确保新算法能够满足复杂多变的实际需求。通过混合编排,不仅实现了算法的优化组合,还打造出了全新的、具有更强适应性和实用性的算法。


这种服务解耦的方式提升了AI应用的灵活性和实用性。面对各行业多样化业务需求,都能通过快速编排、灵活调整,实现多模型、多场景的联动,更好地应对复杂多变的需求,为AI应用的快速交付和推广提供了有力保障。


3.3  互联、深度融合,贯通全域

业务的互联与深度融合是企业发展的关键。为实现这一目标,MaaS平台打通存量BOMS系统,实现业务的一站式开通,同时融合大模型能力,构建全域智慧运营大脑,驱动数智营销闭环。


MaaS平台打通存量BOMS系统,改变了以往跨部门多轮工单审批、手工配置绑定的繁琐AI模型开通模式。在平台上实现模型订购、模型配置和运营监控的一站式上架和开通,大幅缩短了AI交付落地的周期,提升了业务运营效率,提高了企业响应速度和市场竞争力。


除了实现业务的一站式互联开通,MaaS平台还深度融合大模型能力,赋能数据层到应用层的基础能力建设。实现算法模型自动生成营销场景匹配策略,并通过动态渠道分配模式,打造智能调度能力,驱动形成“全量用户-多产品-多渠道智推策划-用户级智能调度-经验可回收”的数智营销闭环,从而构建出全域智慧运营“大脑”。最终使得企业能够作出更加精准的决策和营销策略,进一步推动业务的发展和创新。


3.4  收敛、混合调度,实现算力统一运营

基于MaaS平台,实现了异构算力的有效收敛与统一管理。通过运用跨架构、混合调度的开发运维(Development and Operations,DevOps)流水线,高效支持图形处理器(Graphics Processing Unit,GPU)资源的混合调度,从而显著提升了整体运营效率与效益。


在算力网络的资源编排管理方面,采用标记的标准任务与数据处理情况分析,精准掌握不同节点的算力分配状况,并据此进行精细编排,有效解决了通信任务内不同节点数据编排参数误差的问题,实现了高效、均衡的资源分配,流程如图3所示。

图3   算力网络的资源编排管理


同时,在算力网络资源调度方面,通过历史构建、信息获取、任务分配和数据更新等步骤和新型调度方式,从全局角度解决算力需求不足和算力分布不均等问题,实现算力网络资源系统的负载均衡及高有效性,使得调度系统解决方案达到最优解。其中,历史记录构建:根据历史记录数据构建算力网络资源调度分配表;信息获取:获取当前各个算力节点的当前负载率、算力网络资源整体负载率以及待处理任务的系统损耗预估值;任务分配:根据获取的信息进行任务分配,任务分配方式为基于反馈的相似度信息拟合方法或深度神经网络;数据更新记录:根据实际处理情况更新修复后的系统损耗实际值,且在任务处理完成之后形成新的记录,加入算力网络资源调度分配表。


3.5  收敛,统一入口,精准意图识别

针对企业多样化AI应用需求,通过收敛不同入口,实现统一的处理入口,简化操作复杂度,提升系统使用的便捷性。同时,重点强化精准意图识别的能力,通过技术创新和策略优化,确保能够深入理解和准确把握用户的真实意图。


首先,基于大小模型协同应用模式,大模型负责向小模型输出模型能力,小模型更精确地处理自己“擅长”的任务[3],构建了大小模型与用户画像相结合的意图识别模型,形成层次化、漏斗型的意图识别体系。大模型负责处理复杂且不确定的意图识别任务,有效解决了小模型泛化能力低的问题;小模型则负责基础分类和具体流程的智能执行。用户画像的引入也进一步帮助精准把握用户意图,提升整体意图理解准确性。


其次,在智能体任务自主编排方面,实现对企业内部业务规则、路径一致流程的收敛,形成了任务处理范式。通过“自主代理”(见图4)核心技术的应用,实现了对业务意图的自主规划、自主决策、自主执行和自主评估,从而大幅提高了响应用户意图的能力。

图4   “自主代理”技术应用


针对用户在一次对话中可能包含多个任务的情况,开发多类异构任务的智能切换技术。通过模型阈值与使用行为轨迹分析的结合,实现了对提问的逻辑跳转,提升了原始智能体快速切换的能力,使得用户体验更加流畅无顿感。


在检索增强生成(Retrieval-Augmented Generation,RAG)方面,采用多源异构数据编排、语义分割识别等技术,对企业内部的文档、图片等多模态数据进行处理转化,显著提升了表格和图片的识别准确率。同时,通过创建多索引结构和多种分块策略,提高了检索的效率和召回情况,并结合多种性能度量指标对RAG效果进行综合评估和优化,提高企业知识问答类的准确率。


最后,在大模型与机器人流程自动化(Robotic Process Automation,RPA)业务系统新模式方面,实现了大模型与RPA的深度融合。这一创新不仅解决内部系统对接的问题,还无需对业务系统进行深度改造。同时优化了传统RPA的能力,由大模型进行学习推理形成RPA的有效指令,从而解决了传统RPA需要人工编排和填写等问题。这一新模式提高了系统对接与业务场景改造的效率,将传统的接口化改造周期从两个月减少到RPA方式的一周。


4  结束语


展望未来,将继续深化对基于解耦、收敛、互联三原则的运营商AI+MaaS IT支撑新模式的研究与探索,不断优化和完善MaaS架构体系,致力于解决更大规模、更多样化的AI需求挑战。期望通过持续的技术创新和优化措施,进一步提升平台的灵活性、兼容性和可扩展性,推动该模式在更多领域的应用与拓展。同时,也将积极促进AI+技术的创新与发展,为构建更加智能、高效、可持续的数字经济生态贡献力量,助力企业实现数智化转型和高质量发展。


Exploration and practice of operator’s AI +MaaS IT support new model based on the three principles of decoupling, convergence, and interconnection


HUANG Yixiao, ZHANG Zhanmei


(China Mobile Group Guangdong Co., Ltd., GuangZhou 510623, China)


Abstract: With the rapid development and extensive application of Artificial Intelligence (AI) technology, enterprises are actively introducing AI technology to achieve intelligent upgrades and transformations of their businesses, so as to enhance competitiveness. This paper proposes a new operator IT support model based on the three principles of decoupling, convergence, and interconnection, namely AI+ MaaS. This paper describes the exploration and practice of this model in platform architecture, model orchestration, business interconnection, unified computing power operation, and precise intent recognition. This approach addresses the challenges of traditional IT architectures in terms of flexibility, compatibility, and scalability to drive scalable value operations for AI+ businesses.

Keywords: AI; decoupling; convergence; interconnection; AI+MaaS



本文刊于《信息通信技术与政策》2024年 第12期



主办:中国信息通信研究院


《信息通信技术与政策》是工业和信息化部主管、中国信息通信研究院主办的专业学术期刊。本刊定位于“ 信息通信技术前沿的风向标,信息社会政策探究的思想库 ”,聚焦信息通信领域技术趋势、公共政策、 国家/产业/企业战略,发布前沿研究成果、焦点问题分析、热点政策解读等,推动5G、工业互联网、数字经济、人工智能、大数据、云计算等技术产业的创新与发展,引导国家技术战略选择与产业政策制定,搭建产、学、研、用的高端学术交流平台。


期刊荣誉与收录情况

AMI(2022版)A刊扩展期刊

RCCSE中国核心学术期刊

入选中国科协信息通信领域高质量科技期刊分级目录




《信息通信技术与政策》投稿指南


为进一步提高期刊信息化建设水平,为广大学者提供更优质的服务,我刊官方网站(http://ictp.caict.ac.cn)已正式投入运行,欢迎投稿!





   推荐阅读  


专题丨大模型应用服务平台建设研究
专题丨大语言模型核心架构演进态势分析
专题丨人工智能嵌入新型工业化进程中的数据治理困局与因应
专题丨大模型智算基础设施夯实新型工业化赋能底座
导读:人工智能赋能新型工业化
《信息通信技术与政策》2024年第50卷第12期目次及摘要



“在看”我吗?

【声明】内容源于网络
0
0
信息通信技术与政策
工业和信息化部主管、中国信息通信研究院主办的专业学术期刊。定位于“信息通信技术前沿的风向标,信息社会政策探究的思想库”。
内容 986
粉丝 0
信息通信技术与政策 工业和信息化部主管、中国信息通信研究院主办的专业学术期刊。定位于“信息通信技术前沿的风向标,信息社会政策探究的思想库”。
总阅读177
粉丝0
内容986