OPEN AI LAB发布MCU级AI推理框架Tengine-Lite，搭配开源关键词识别算法“小智”，吹响万物智联的冲锋号，引发嵌入式AI应用开发的新革命。
智能从云到端，MCU助力万物智联
2017年OPEN AI LAB发布了嵌入式推理框架Tengine与计算库HCL，让原本桌面级CPU/GPU才玩得动的高级AI应用在Arm处理器上也能流畅运行，大大加速了AI应用的普及。目前，Tengine已经在人脸门禁、智能家居、智慧零售等几十种场景及数百万台设备中被部署和使用。
随着IoT设备的不断增加和AI技术的逐渐成熟，人们追求更加智慧便捷的生活，这就要求更多的设备具备智慧的能力，比如各种家用电器、门锁、灯具、甚至小到一个用锂电池供电的环境传感器。覆盖这些设备和场景需要极低的硬件成本及功耗，并且要求极高的稳定性和可靠性。传统的服务器方案和应用处理器方案完全不能满足需求，因此只有MCU方案才是最理想的选择。
在MCU上开发AI应用，在两年前听起来还是天方夜谭，因为MCU缺乏成熟的开发工具，无论是模型转换还是应用部署都十分复杂。同时由于MCU硬件计算资源有限且只支持量化计算，因此运行速度低且计算精度没有保证 。但如今，这些难题被OPEN AI LAB一一攻克了，OPEN AI LAB发布能够引爆行业的跨时代产品Tengine-Lite —— 一个可以在MCU上运行的AI推理框架！
Tengine-Lite定义MCU AI应用开发
Tengine-Lite是专为MCU设计的超轻量级AI推理框架，采用应用程序与模型分离的开发流程，纯C语言开发，支持裸板开发、也支持RTOS操作系统，程序体积最小可至20KB，能够适用于极端苛刻的MCU嵌入式开发环境。
为了解决计算资源与精度问题，Tengine-Lite针对在MCU广泛使用的Arm Cortex-M CPU上提供了HCL-M计算库，兼容CMSIS-NN，支持FP32与INT8等多种计算精度，除了提供常见NN算子，还提供FFT等常用的前处理算子。搭配Tengine-Lite的量化训练工具能完美解决量化计算带来的精度损失问题。
Tengine-Lite的发布不仅提供了一整套便捷的MCU AI开发工具，还为嵌入式AI软件产业建立了开放的开发生态平台。值得关注的是Tengine-Lite向上兼容Arm中国周易的Tengine应用接口，因此在Tengine-Lite上开发的应用都可以在广泛部署的周易平台运行。Tengine-Lite开放支持TensorFlow/MXNet/Caffe等模型，给予开发者自由选择的权利。Tengine-Lite还会支持第三方DSP及AI硬件加速器，赋能MCU+AI芯片。
MCU中文语音关键词识别算法——AID.Speech
与Tengine-Lite同时发布的还有MCU中文语音关键词识别算法。OPEN AI LAB作为嵌入式AI行业的领导者，2018年率先在业界推出了单MCU单麦语音中文关键词识别方案“小智小智”，该方案基于Cortex-M4内核，能在Tengine-Lite上流畅运行，将智能语音识别方案成本大降了50%以上。目前，该方案已被广泛应用于儿童故事机、智能家居、蓝牙耳机等产品中。
现在OPEN AI LAB开源了运行于Cortex-M7 的“小智小智”语音识别算法和开发工具，开发者可以根据自己的需求定制关键词。 “小智小智”的模型大小只有66KB, 但识别准确率达95%以上，远超其他同类中英文关键词识别模型，且运行时仅占用13KB RAM，运算量只有1.2Mop，耗时仅18ms，可在MCU上完美运行。
关于Open AI LAB
OPEN AI LAB是2016年12月由ARM、全志科技、地平线科技联合发起的开源项目，旨在构建开放的嵌入式AI计算生态。OPEN AI LAB旨在推动Arm嵌入式智能机器的产业发展，为智能机器应用场景构建嵌入式SoC基础计算框架，并整合应用场景服务接口。致力于推动芯片、硬件、算法软件整个产业链的深度协作，实现有计算的地方就有人工智能。耀途资本于2018年6月联合领投开放智能pre-A轮融资。
OPEN AI LAB 开放智能创始人兼CEO。有近20年嵌入式软硬件技术和产品研发、销售、市场营销和业务拓展经验，曾任Arm中国市场营销副总裁，是中国人工智能产业发展联盟（AIIA）总体组副组长、专家委员，Arm人工智能生态联盟（AIEC）秘书长。
耀途资本是国内领先的中国-以色列跨境投资机构，主要投资中国及以色列物联网与人工智能领域成长期优秀创业公司，基于行业深度研究与精准狙击，同时拥有广泛且深度产业合作生态圈
耀途资本目前在国内及以色列物联网，大数据领域布局超过50家公司，涉及物联网芯片、传感器、大数据、物联网平台、金融科技和人工智能等，多数项目成长为细分领域领军企业
耀途资本管理三期人民币基金及二期美元基金，公司及基金股东包括高榕资本，大众点评联合创始人团队，多家A股上市公司高管团队，耀途资本超过50%的投资组合获得包括阿里巴巴、HTC、三星、联发科、富士康、万得资讯、盛大网络、复星国际、德尔福、丰田、麦格纳、水晶光电等一线投资机构及产业资本的后续投资
耀途资本旗下产业生态平台“耀途之旅”专注于技术创新的产业分享与交流平台，也是针对以色列高科技行业进行深度行业调研考察活动的组织平台，通过极具深度的产业深度考察，帮助中国具有转型需求的企业家拓展全球视野，洞悉全球创新风口以及资本运作趋势，专注于物联网、人工智能、企业级服务等行业，每年超过200位包括上市公司董事长及高管在内的企业家群体加入平台
欢迎添加微信号【gloryventures】或者关注耀途资本微信公众号，后台回复【真实姓名-机构-职位-联系方式】加入耀途资本生态圈，共享国内最顶级的产业生态圈层，打造最前沿的终生学习交流平台
