大数跨境
0
0

北斗卷积神经网络(五)

北斗卷积神经网络(五) 辽宁北斗
2021-11-26
2
导读:关注《辽宁北斗》,掌握更全面的北斗实时资讯!

(来源:转载于中国北斗卫星导航系统)

01

导论

02

卷积运算

03

非线性激活

04

池化层

05

全连接层

06

神经网络的训练与优化

05
全连接层


全连接层的形式和前馈神经网络(feed forward neural network)的形式一样,或者称为多层感知机(multilayer perceptron,MLP),纠结了很久要不要再具体介绍前馈神经网络,最终决定还是先假设读者朋友都已经有了这方面相关的知识,如果有需要的话我再单独写一篇文章介绍FNN。
原图片尺寸为9X9,在一系列的卷积、relu、池化操作后,得到尺寸被压缩为2X2的三张特征图。前面的例子只压缩到4X4,这里表示继续进行了压缩。

从9X9,到2X2,看起来我们已经做了很多事情了哎!似乎胜利就在前方啦(ง •_•)ง

等一下,想想我们最初和最终的目的到底是什么?是对这张照片进行识别,识别它到底是X还是O呢(其实也算是对它进行一个二分类)。那我们现在得到的是什么?是一个2X2的矩阵,好像和分类并没有什么毛线关系啊。

别急。全连接层要做的,就是对之前的所有操作进行一个总结,给我们一个最终的结果。

全连接层,顾名思义就是全部都连接起来,让我们把它与卷积层对比起来看。

这么说来的话前面的卷积层肯定就不是全连接了,没错,卷积层采用的是“局部连接”的思想,回忆一下卷积层的操作,是用一个3X3的图与原图进行连接操作,很明显原图中只有一个3X3的窗口能够与它连接起来。(我看出了4个,不过不影响理解)

还是回来看接下来的操作,得到了3个2X2的特征图后,在全连接层中有一个非常重要的函数----Softmax,它是一个分类函数(也是一种激活函数),输出的是每个对应类别的概率值。比如:【0.5,0.03,0.89,0.97,0.42,0.15】就表示有6个类别,并且属于第四个类别的概率值0.97最大,因此判定属于第四个类别。(这六个概率值之和应该等于1,不过不影响理解。)

全连接层接受来自卷积层或池化层或激活层(都行)的输入,输出N个数。N是所有类别的总数,对于本问题来说N=2,即X或O。输出数是属于某个类别的概率,概率之和为1。据此就可以判断这张图片属于哪个类别的概率最大。

注意:本例中因为只有两个类别X和O,而且数据量到此已经非常少了,因此直接将三个特征图改变维度直接变成一维的数据。变成了普通的神经网络,参见本公众号历史文章“AI赋能科学算命”。

展开的数据即为属于类别X的概率值,值大小也在对应X的线条粗细中表现出来了,再用Softmax函数计算X分类总概率。

以上所有的操作都是对标准的原图X来进行的,因此最终分类显示即为X毋庸置疑。

假设对一张看起来并不标准的图进行分类。如下

对于进行一系列操作后,假设得到的概率值如下所示:

0.9表示极其大可能是X,那么O就是0.1了。因此对应到X的黄色线条比对应到O的绿色线条要粗很多很多。

我们对结果进行统计分析后可判断这张图片里的字母为X。

(来源:整理于光明游侠)


往期精彩内容回顾

北斗卷积神经网络(四)


中国的北斗 世界的北斗 一流的北斗

服务国家战略 资源开放共享 推动成果转化


辽宁北斗是辽宁省数字经济领域的高新技术企业、军民融合企业、北斗高精度位置信息服务运营商,面向辽宁区域内的政府用户、行业用户等,提供基于北斗的定位、导航、授时、短报文服务。
辽宁北斗建设了覆盖辽宁全域的北斗地基增强网系统(网端),搭建了北斗高精度位置、物联网、智慧交通、智慧航运、智慧养老、作业安全、平安校园、人员巡检、公共安全监测、智慧井盖管理等云服务平台(云端);实现了GIS与BIM深度整合、与5G有机融合的“天上看、网上管、地上查”的“以图管资源”信息系统集成(图端);组建了服务于智慧城市、智慧交通、智慧消防、智能制造、城市地图、人工智能、区块链等方面的北斗大数据应用中心(数据端);开发了北斗卫星接收机、人员穿戴设备、车辆定位设备、物联网传感器等一系列高精尖硬件配套产品(设备端)。基于以上一站式软硬件设施,为应急救援、数字城市、行业应用等提供“网+云+图+数+端”的系统平台解决方案。

(辽宁北斗地基增强网系统)


http://www.lnbeidou.com/
地址:沈阳国际软件园D09栋309-310
联系电话:4000-617-616

天上北斗好用

地上北斗用好

辽宁北斗


【声明】内容源于网络
0
0
辽宁北斗
北斗平台,携手同行,共创“北斗+”未来!官网:www.lnbeidou.com
内容 509
粉丝 0
辽宁北斗 北斗平台,携手同行,共创“北斗+”未来!官网:www.lnbeidou.com
总阅读337
粉丝0
内容509