本文为2025年第74篇深度报道（阅读时间约15分钟）

01 简介

上海乐言科技股份有限公司专注AI技术研发，为电商、金融等领域提供智能化整体解决方案。其核心产品“乐语助人”智能客服机器人日均服务超千万人次，已服务六万余家电商客户。为应对业务增长带来的技术挑战，公司采用阿里云消息队列RocketMQ版Serverless系列，实现系统稳定性提升、开发成本降低、运维效率优化，并达成资源弹性降本37%的成效。

02 深耕AI SaaS+，助力电商数智化转型

成立于2016年的上海乐言科技（官网：https://www.leyantech.com/），依托自然语言处理与深度学习技术，为电商、金融、医疗等多个行业提供AI解决方案。公司已在杭州、广州设立分支机构，构建完整技术能力栈，发布“乐言GPT大模型”，推动大模型技术在垂直领域的应用落地。

乐言科技积极参与行业标准制定，承担多项重大科研项目，荣获多项资质认证，致力于以AI技术为客户创造价值，推动产业智能化升级。

03 “乐语助人”日均服务超2000万人次

乐言科技核心产品“乐语助人”是面向天猫、淘宝、京东等主流平台的AI智能客服机器人，融合自然语言处理、知识图谱与深度学习技术，可模拟金牌客服行为，胜任咨询接待、问题处理、智能推荐与客户维系等任务，在降低人工成本的同时显著提升服务效率与转化率。

目前，“乐语助人”日均服务量突破2000万人次，累计合作电商客户超六万家，年SaaS软件收入约十亿元。公司同步拓展海外市场，推出跨境电商AIGC解决方案，服务覆盖400多万海外店铺。

04 业务激增倒逼消息队列架构升级

作为智能客服系统核心，“对话消息分发”功能需应对高并发与高效响应。初期，乐言科技采用自建Apache Kafka作为消息中间件，支撑业务解耦与数据流转。

随着业务规模扩大，自建Kafka集群暴露出四大痛点：
• 稳定性不足：多业务共用集群导致IO干扰，扩容时的分区重均衡影响对话消息延迟；
• 运维成本高：集群拆分后波峰波谷明显，资源利用率低，临时扩容耗时耗力；
• 消息处理粗放：缺乏Tag过滤与SQL筛选能力，精准消费需额外开发，制约业务创新；
• 可观测性弱：无法直接追踪单条消息状态，问题排查依赖额外工具。

05 精准选型：RocketMQ Serverless破解架构瓶颈

针对不同业务场景，乐言科技实施消息队列分层策略：
• 业务解耦与强一致性场景：采用阿里云消息队列RocketMQ版Serverless系列，保障高可靠与确定性；
• 实时流处理场景：保留Kafka架构，计划迁移至阿里云消息队列Kafka版以优化弹性与成本。

通过引入RocketMQ Serverless，乐言科技在关键场景实现三大突破：
1. 分布式顺序消息更高效：仅需定义MessageGroup即可实现顺序消费，相比Kafka分区机制更灵活、扩展性更强；
2. 支持服务端消息过滤：提供Tag与SQL属性过滤功能，减少无效消息投递，降低下游系统负载与客户端开发复杂度；
3. 资源弹性降本：按实际使用量动态伸缩、按量计费，避免资源预估浪费，显著降低运维压力与成本。

06 实现整体成本降低37%

迁移至云消息队列RocketMQ版Serverless系列后，乐言科技取得显著成效：
• 业务稳定性提升：实现流量隔离与业务解耦，避免并发冲突，服务可用性达99.99%；
• 开发成本降低：利用原生顺序消息与过滤能力，简化复杂逻辑，减少定制开发；
• 运维效率提高：依托丰富的Metrics与Trace工具，构建完整可观测体系，提升问题排查效率；
• 资源成本下降37%：通过动态弹性伸缩与按量计费模式，有效匹配业务负载波动，显著节约资源开支。