大数跨境
0
0

SNNGrow生长重磅发布,可替代深度学习传统运算框架 | 芯湃伙伴

SNNGrow生长重磅发布,可替代深度学习传统运算框架 | 芯湃伙伴 芯湃资本
2024-12-20
1
导读:在人工智能领域,深度学习凭借其强大的数据建模能力占据了主导地位,但其对高功耗算力的需求也令整个行业备受制约。大模型的不断膨胀,带来了算力需求的指数级增长,能耗成为不可忽视的瓶颈。

在人工智能领域,深度学习凭借其强大的数据建模能力占据了主导地位,但其对高功耗算力的需求也令整个行业备受制约。大模型的不断膨胀,带来了算力需求的指数级增长,能耗成为不可忽视的瓶颈。在这一背景下,SNNGrow生长的诞生被认为是AI领域的运算革命者,它以类脑计算架构替代传统深度学习的浮点运算,带来了全新的低功耗高效能解决方案,为我国新质生产力的基础建设再添了生力军。

SNNGrow生长是一款由北京理工大学AETAS实验室联合优智创芯、清华大学北京师范大学团队共同开发的开源低功耗脉冲神经网络(SNN)框架。该平台采用脉冲神经网络的原理,模拟生物大脑的脉冲式信息传递方式,突破了深度学习中的高能耗困境,旨在以低功耗实现高效计算。

传统的深度学习依赖于大规模的浮点矩阵运算,而SNNGrow生长则通过脉冲+稀疏双重机制将浮点矩阵计算转化为脉冲二值加法计算。与传统的GEMM(通用矩阵乘法)操作不同,SNNGrow生长中的关键运算—SpikeGemm—以二进制脉冲的形式进行矩阵计算。借助这一创新,SNNGrow生长不仅在运算速度上实现了大幅提升,内存和缓存的利用率也显著提高,带宽开销大幅减少。

SNNGrow生长的运算优势源于对生物神经元传递机制的模拟。传统深度学习依靠稠密的浮点矩阵操作,而生物大脑的信号传递则是通过稀疏的脉冲信号进行的。SNNGrow生长在这一理念的基础上,采用脉冲式信息传递,将矩阵乘法转化为脉冲加法。

脉冲信息以01的二值状态传递,意味着浮点数乘法被更高效的加法操作取代。SpikeGemm操作以更少的硬件资源实现高效运算,能效比成倍提升。神经网络的稀疏激活使得仅关键的神经元群会被激活,从而进一步减少了计算开销。与传统的密集浮点数运算不同,稀疏的脉冲神经网络只在需要时激活神经元,大幅减少了功耗。

SNNGrow生长提出的SpikeTensor设计进一步优化了内存和计算性能。SpikeTensor的核心是将数据存储压缩为1Byte,甚至未来可能仅需1bit来存储一个脉冲信号。

这一设计在存储和带宽利用率上极大提升了硬件性能。SpikeTensorGPU上的矩阵运算也进行了深度优化,使得浮点数FFMAFused Multiply-Add)指令转化为更加节能的FADD(浮点加法)指令,从而大幅节约了算力和功耗。

SNNGrow生长不仅在性能上具备优势,在开发者友好性上也进行了充分考量。通过与PyTorch框架的深度集成,SNNGrow生长的操作接口与当前主流AI框架完全兼容,开发者无需从头学习复杂的底层实现逻辑。

得益于这种封装,研究人员和开发者能够轻松上手,快速验证和迭代他们的脉冲神经网络模型。

SNNGrow生长的战略目标不仅局限于技术创新,还希望通过大规模开源来促进类脑智能技术的产业落地。未来的SNNGrow生长计划支持对百亿级神经元的类脑仿真,并进一步推动软硬件一体化的协同发展。这种发展路径旨在缩小AI领域中算力和能耗之间的性能鸿沟

凭借其对稀疏结构和脉冲计算的深刻理解,SNNGrow生长有望在AI芯片、边缘设备、物联网设备等对低功耗有强烈需求的场景中发挥重要作用。特别是在AIoT设备中,低功耗的类脑计算架构可能会为更多设备提供本地化的智能化支持,而不依赖于云端计算的高成本开销。

SNNGrow生长的出现标志着一种全新计算范式的到来替代深度学习传统浮点运算的类脑脉冲计算。凭借脉冲+稀疏的高效计算机制,SNNGrow生长不仅在AI能效上取得了显著突破,还通过其开源的特性赋能开发者群体,推动了类脑智能的技术发展。未来,随着硬件和软件的进一步协同发展,SNNGrow生长有望在AI芯片、物联网设备等领域掀起一场新的低功耗计算浪潮。

目前,SNNGrow生长已全面开源,开发者和研究者可以通过以下链接获取:

Github链接:

https://github.com/snngrow/snngrow

文档链接:

https://snngrow.readthedocs.io/

开源连接:

https://snngrow.opensnn.com

关于优智创芯:

优智创芯是一家先进的类脑智能及大算力平台研发商,依托于清华大学,研发了底层SnnGrow类脑仿真训练框架,掌握了世界领先的CLAS因果学习算法系统模型以及在清华大学乘影GPGPU的基础上自主创新的高性能“思辨”系列类脑AI芯片以及纯国产大算力GPGPU芯片,搭建了“硅脑”全自主无人系统平台,并形成了应用端产品可解释自主导航XSN模块和通用人工智能一站式资讯平台开思通智网OpenSNN.com等。


基于功耗小、成本低、具可解释性以及可以自主灵活决策的特点,类脑智能将逐步替代深度学习的大规模计算,完成机器感知到类脑决策的全面升级。产品主要应用在“全自主无人系统”领域,包括无人航空、无人驾驶和通用型机器人等。


团队来自于清华大学,北京理工大学和北京师范大学。不仅有从事多年类脑算法和类脑AI芯片研究的教授,也有认知神经科学的专家,同时也包括硬件、软件和类脑智能的行业翘楚。


优智创芯UTARN本着“让机器拥有智慧”的初心和“让AI更好地服务人类”的科技使命,致力成为一家伟大的类脑智能技术平台公司。公司先后获得啟赋资本、一村淞灵资本、技芯科技、力汇基金、华盖资本和清华大学的投资。



‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍芯湃资本(CHIPAI CAPITAL) 成立于2020年5月,公司聚焦一级市场“半导体、新材料和智能制造”三大硬科技领域,秉承发现价值、传递价值、创造价值的理念,挖掘企业深层价值和战略资本协同,服务技术型创始人,通过敏锐洞察行业趋势与资本动向,以深度服务来解决技术型企业发展面临的问题,成为公司的“资本合伙人”。团队合伙人平均拥有超过10年的产业背景和多年的投资投行经验,核心成员均毕业于国内外知名高校,熟悉高科技公司创业、运营管理、融资、并购和IPO上市等全流程,通过嫁接丰富的产业人脉资源,为创业公司提供更多方面服务。公司成立至今已完成了包括晟联科、电科星拓、云豹智能、偲百创、立芯软件、迷思科技、道芯科技、丰蕾科技、喆塔科技、芯朴科技、安可捷、中润光能、深流微、飞渡微、芯科集成、爱瑞无线、恪赛科技、芯波微电子、西安华泰半导体、中科融合、珠海亿智、酷芯微、欧思微、最成半导体、柯特瓦、纽劢科技、爱可生、挚感光子、适创科技、图为技术、中科致良、帝尔博格和碳佳科技在内的近40个硬科技项目融资,累计金额数十亿人民币。

【声明】内容源于网络
0
0
芯湃资本
专注于硬科技方向的投资、融资和并购顾问
内容 295
粉丝 0
芯湃资本 专注于硬科技方向的投资、融资和并购顾问
总阅读89
粉丝0
内容295