卷积神经网络可视化，真的很像神经元！（上篇） – 作者:我在鹅厂做安全

大家好，我是鹅厂在读的AI安全35号小学生。

不知道小伙伴们有没有这种感觉？在接触AI时，老感觉神经网络就像个黑盒子，摸不着，看不透，贼神秘了。

其实，神经网络就是对人脑运作模式的智能模拟。和人脑一样，神经网络模型的强大能力，是基于成千上万个神经元的相互作用。以卷积神经网络（CNN）为例，其结构就分为很多层，层与层之间通过线来连接。训练的过程，就是将所有的线设置成合适的值的过程。

为了直观展示，今天就通过可视化带大家看看AI训练时都长啥样。（前方多图预警！

首先，AI模型训练前长这样：

训练中，依次经过卷积-激活、卷积-激活-池化、卷积-激活、卷积-激活-池化……这个过程大概长这样：

最后，训练完成后长这样，一种张扬肆意的凌乱美有没有：

可以看到，经过训练后的模型之所以长得不再“均匀规整”，是因为被赋予了权值不一的特征。虽然训练花了不少时间，但360度观摩神经网络的训练后，让人觉得再漫长的等待都是值得的。

看完上面炫酷的3D展示，接下来我们再通过AI模型全局结构图，一步步拆解训练过程，试着把CNN每一层的操作和变化都展示出来。

首先是卷积层，这一步主要是为了提取特征。因为AI在识别图片时，并非一下子整张图整体识别，而是先对图中的每一个特征进行局部感知。

然后，到了激活层，这个步骤是对上面提取的特征做一次非线性映射。

接着，来到池化层，用白话来讲就是去除冗余信息，保留关键信息。毕竟一张图像通常包含了大量杂余信息，如果把整张图的所有特征都学习下来，那可不把AI累死。

就这样，以上操作重复N次，就形成了一个深层神经网络，完成自动化的有效特征提取：

最后，来到全连接层，通过对所有得到的特征加权，计算输出预测结果，大功告成。

以上，就是一整套AI训练时的正常画风。那么，如果我们给AI悄摸摸喂点对抗样本，训练过程又是什么画风呢？有同学想了解请留言~有反响鼓励我我继续写牙~

想亲手尝试的同学可看此git详细列上ai可视化相关资源：

https://github.com/aisecstudent/nn_visualization

来源：freebuf.com 2021-05-08 16:24:19 by: 我在鹅厂做安全