

应用数学进展｜改进胶囊网络在图像识别中的应用

汉斯出版社

2022-04-24

导读：

图像识别是通过分类并提取重要特征而排除多余的信息来识别图像。随着深度学习的发展，计算机视觉技术也迈出了很大的一步，卷积神经网络经常被用来做图像识别，其中逻辑回归与softmax回归在图像识别中被广泛应用。

基本信息：

改进胶囊网络在图像识别中的应用

Application of Improved Capsule Network in Image Recognition

作者：

巩瑞鑫, 贺衎：太原理工大学数学学院，山西晋中

关键词:

图像识别；卷积神经网络；胶囊网络；手写数字识别；Image Recognition；Convolutional Neural Network；Capsule Network；Handwritten Numeral Recognition

项目基金：

国家自然科学基金面上项目(11771011)。

原文链接：

https://doi.org/10.12677/AAM.2022.114189

内容简介：

在汉斯出版社《应用数学进展》期刊中，有论文研究用改进胶囊网络对MNIST数据集进行训练。利用spread损失来代替margin损失，避免过早出现“失活”胶囊，并且在不添加重构子网络的情况下，对不同路由迭代次数进行研究，确定路由迭代次数对分类准确率的影响，并确定模型最优参数。

在传统的神经网络中，只有一个单独单元的输出被一个非线性变换压缩，当有许多神经元被输出时，对每一个都采用非线性变换，而胶囊网络将这些输出神经元聚合在一个张量神经元中，并对整个胶囊采用非线性变换，也就是说，应用非线性变换的时候，是对整个网络进行操作，而不是对单独的神经元。动态路由把卷积神经网络的标量输出特征检测器替换成了向量输出，将最大池化层用路由协议机制代替，所以每个胶囊在前向传播时，优先前往下一个最相关的胶囊。

这个新架构也要付出相应的代价：路由算法相比于普通的卷积神经网络，前向传播有一个额外的外层循环，它需要在所有单元上进行r次迭代来计算输出。对于每一个嵌套在一层里的张量神经元采用这些操作时，无论是softmax或是压缩函数，都会使得梯度更难计算，模型可能会在一些较大的数据集中遇到梯度消失的问题。

深度学习本质就是一系列的张量变换，胶囊将神经元的输入和输出升级成二维向量，在接下来的研究中可以延伸为高维张量，目前胶囊网络只有三层，增加网络层数很可能提高模型性能，动态路由过程还有待改进。此外，胶囊网络在复杂数据集上实现的性能并不是很好，该网络还有很大的改进空间。

1、马丽, 刘建芳. 改进SIFT算法在模糊图像特征识别中的应用[J]. 计算机科学与应用, 2018, 8(4): 539-545.

https://doi.org/10.12677/CSA.2018.84060

2、王茂华, 苏文明. 数字图像识别技术在桥梁荷载试验中的应用[J]. 土木工程, 2021, 10(9): 935-944.

https://doi.org/10.12677/HJCE.2021.109105

3、孙红辉, 王红霞, 李爱君. 功率谱处理技术在图像相关识别中的应用[J]. 应用物理, 2020, 10(9): 399-407.

https://doi.org/10.12677/APP.2020.109053

4、孙红辉, 王红霞, 李爱君. 边缘提取在图像相关识别中的应用及分析[J]. 应用物理, 2020, 10(1): 8-14.

https://doi.org/10.12677/APP.2020.101002

5、杜溦. 多层循环神经网络在动作识别中的应用[J]. 计算机科学与应用, 2020, 10(6): 1277-1285.

https://doi.org/10.12677/CSA.2020.106132

所属期刊

-Advances in Applied Mathematics-

《应用数学进展》是一本开放获取、关注应用数学领域最新进展的国际中文期刊，主要刊登数学的各种计算方法研究，数学在统计学、计算机等方面应用的学术论文和成果评述。本刊支持思想创新、学术创新，倡导科学，繁荣学术，集学术性、思想性为一体，旨在为了给世界范围内的科学家、学者、科研人员提供一个传播、分享和讨论应用数学领域内不同方向问题与发展的交流平台。