
9月1日,由自治区通信管理局、南宁市人民政府主办的2023年广西互联网大会在南宁召开。大会聚焦数字发展浪潮,400余人围绕“数智赋能、智引未来”主题,分享“数实融合”创新成果,探讨和展望行业人工智能和数智化转型发展路径。

梯度科技受邀参加本次大会,并发表“边缘算力与云化模型协同进化”的主题演讲,与行业专家一起深入探讨,共同展望边缘计算和数智化转型的发展方向。会上,梯度科技轮值CTO、高级技术专家梅进围绕边缘计算与云边协同技术的演进,重点分享了算力融合、云边端进化的思考和相关技术实践成果。
梅进表示,随着技术发展和国家新基建战略的推动,算力大规模部署和应用已经成为必然。算力发展趋势从PC到移动端再下沉到用户端,近用户端算力发展成为必然选择。

边缘计算和云计算已经成为这个时代的关键驱动力。边缘计算提供了更快速的数据处理和实时决策,而云计算则提供了强大的存储和计算能力。然而,真正的创新和效率不仅仅来自于这两者的独立运作,更多的是来自于它们之间的协同进化。
边缘算力与云边协同实现了算力下沉、效能上升的全新效果。边缘设备不再是孤立的个体,而是与云计算中心协同工作,共同处理和分析数据。通过云原生技术,进行边缘端的AI算力布局,能够在边缘端实现AI负载的处理,降低网络传输所带来的延时与不稳定性,同时通过边缘端到云端的算力协同,实现资源的集中管理与敏捷分配。
边缘计算中,需要将数据中心能力延伸到边缘侧实现算力融合。梅进表示,在规划边缘计算平台时,需要具备设备自动发现与注册、设备自动评分、算力资源分配、边缘机器学习、边缘数据管理以及云端应用下发等六大核心能力。

通过上述能力确保平台的设备互通,有效利用异构设备的资源,支持机器学习任务执行,管理有限的本地数据,并实现多样化任务下发,以满足不同应用场景的需求,提升边缘计算的性能和可用性。
梅进表示,边缘算力的特点是将计算能力推向数据源头,这意味着更低的延迟和更高的实时性,然而边缘设备通常具有有限的计算和存储资源,因此,云边端架构顺势而生,通过云边端架构,能够为用户构建三位一体的整体AI能力,助推客户业务快速发展。

在云边端三位一体的IT架构中,云计算中心进行大规模模型训练,然后将初始模型推送到边缘设备,由边缘端结合实时数据进行模型特征提取,再由云端实现多边缘设备模型的聚合。这种协同进化可以提高系统的智能程度,同时保持低延迟和高效能。
未来,公司基于云原生边缘计算的核心技术,将继续发挥在云计算领域的显著优势,与更多的合作伙伴共同助力广西数字经济迈上新台阶,为加快数字广西发展提供新动能。

