点击蓝字
关注我们,了解更多
人工智能芯片正逐渐从云端AI发展到边缘AI,从原来的大数据训练、大型AI模型、极致性能需求到现在面向万亿级别的物联网终端系统,追求超低功耗、低延时、低成本等新方向,但同时也对人工智能芯片技术和算法模型优化技术带来了很多新的挑战。
8月12日,湃方科技联合创始人兼CEO武通达在智东西公开课上进行了以“高能效边缘AI芯片在工业AIoT中的应用实践”为主题的演讲,并与各优秀企业分享湃方科技的技术研究工作,交流人工智能芯片在工业智能物联网产业中落地的心得,希望可以持续探索,相互印证,共同推动工业互联网的发展。
高能效边缘AI芯片:从硬件到软件
近年来,AI芯片正从性能驱动发展到能效驱动,从通用模型驱动发展到专用算法驱动。
武通达讲到,以数据稀疏度的优化技术为核心,湃方科技在过去几年里已经完成了一些基于稀疏优化的芯片。其中,多重稀疏度优化提高能量效率的Sticker系列芯片,包括Sticker-II(非结构化稀疏)、Sticker-IM(存内计算 + 结构化稀疏)和Sticker-V(视频流处理 + 帧间数据复用),连续3篇AI芯片工作入选芯片奥林匹克ISSCC。
基于以上芯片技术,湃方科技针对工业应用,发布了Tritium 103芯片,平均功耗小于40nW,平均能效3.7 TOPS/W,是工业领域首款超低功耗边缘AI芯片,并获得了ISLPED设计竞赛奖第一名。
同时,湃方科技还提供了一套面向边缘MCU和AI芯片的标准化工具链Axon,以实现模型压缩、模型代码生成、AI芯片PDK、辅助工具等功能。
下沉到具体场景,芯片算法高度集成
边缘AI芯片最大的瓶颈不在于技术,而在场景落地上。
武通达表示,湃方科技选择的是工业设备智能管理这个场景,但现有的工业设备监测系统,存在着或体积大、成本高,或寿命短、部署复杂、响应慢等问题,所以,根据智能设备对AIoT智能物联网所提出的小型化、微型化、超低功耗、超长寿命、多级实时性、超低成本、海量部署等要求,湃方科技打造了一套非常典型的端边云协同设备管理系统。
在这套系统中,AI芯片可以通过低功耗的计算来换通信,即只传输有价值的数据,尽管依然是间歇性工作,但是是高频的,甚至可以做到Always On,形成了一个从数据采集到智能监测的小闭环,直到监测到异常数据,才快速响应并上传,实现了降低无效数据传输,提升设备寿命并可以将监测的实时性提高到秒级。
同时,整个端边云协同设备管理系统都高度的集成化,实现了轻硬件节点和部署成本。最底层的智能传感器,可采集振动、噪声、温度等不同数据,中间层的边缘计算盒子,可对数据进行融合与分析,而最顶层的云端,可以为客户提供SaaS服务。
最后,武通达总结到,AIoT和AI芯片在设备管理场景下,实现了高实时性,乃至Always On的长寿命传感器,大幅度提高系统实时性,降低了成本。目前,湃方科技也已在石油、石化、钢铁、电力、冶金、水泥等诸多行业,为超过100家国内外知名企业提供设备故障预警和智能诊断等服务,助力客户增效降本,实现产业升级。

