超赞!!3D可视化工具透视神经网络内部

大数据 数据可视化
加拿大蒙特利尔一家公司开发一个3D可视化工具 —— Zetane Engine,帮助我们解决了这个问题。只要在Zetane Engine打开一个深度学习模型,便可以看到网络中任何一层,并显示特征图。

哈喽,大家好。

你有没有想过,我们编写的神经网络,内部究竟是什么样子的?

加拿大蒙特利尔一家公司开发一个3D可视化工具 —— Zetane Engine,帮助我们解决了这个问题。

只要在Zetane Engine打开一个深度学习模型,便可以看到网络中任何一层,并显示特征图。

图片

为了演示Zetane Engine​的用户,我搭建了AlexNet​网络,在Fashion-MNIST数据集上训练了一个 10 个类别的分类器。

网络架构如下:

tf.keras.layers.Conv2D(filters=96, kernel_size=11, strides=4, input_shape=(224,224,3), activation='relu'),
tf.keras.layers.MaxPool2D(pool_size=3, strides=2),

tf.keras.layers.Conv2D(filters=256, kernel_size=5, padding='same', activation='relu'),
tf.keras.layers.MaxPool2D(pool_size=3, strides=2),

tf.keras.layers.Conv2D(filters=384, kernel_size=3, padding='same',activation='relu'),

tf.keras.layers.Conv2D(filters=384, kernel_size=3, padding='same',activation='relu'),

tf.keras.layers.Conv2D(filters=256, kernel_size=3, padding='same',activation='relu'),
tf.keras.layers.MaxPool2D(pool_size=3, strides=2),

tf.keras.layers.Flatten(),
tf.keras.layers.Dense(4096, activation='relu'),
tf.keras.layers.Dropout(0.5),
tf.keras.layers.Dense(4096, activation='relu'),
tf.keras.layers.Dropout(0.5),
tf.keras.layers.Dense(10)

网络使用Keras​搭建,AlexNet模型非常简单,包含5个卷积层和3个全连接层。

训练样本如下:

图片

样本对应的 10 类别如下:

图片

训练 50 个 epoch,模型的准确度是 92%,将模型保存为alexnet.h5​,用Zetane Engine打开

图片

可以看到AlexNet的网络结构。

我们输入一张裤子图片,查看第一个卷积层输出的特征图

图片

第一个卷积层

图片经过第一个卷积层后,输出的特征图肉眼能明显辨识出是裤子。

我们再看下经过更深层的卷积网络之后,会是什么样子

图片

深度卷积

中间第2、3层明显可以看出是在提取边缘特征,不用类别的物体的边缘特征是不同的,并且边缘特征相比原图表达能力更强,相当于是原图更抽象一级的特征,不过这里还是可以看出来是裤子。

但到了第4、5层,特征更抽象了,肉眼已经看不出是裤子了,当然也说明模型学习能力更强了。

简单总结下,神经网络从浅层到深层,学习的特征越来越抽象,学习能力也越来越强。

AlexNet网络除了有卷积层,还有池化层,我们也可以看下特征经过池化层的效果

图片

颜色越明亮,代表权重越高。从上图可以看到最大池化层能强化重要特征,发挥去噪、降维的作用。

另外,你可能会主要到网络上每个节点的前后都有一些白色圆点组成的方块。

图片

左边代表该节点输入特征和权重,右边代表输出的特征。点击它们可以看到不同视角的特征图

图片

三维视角

图片

二维视角

图片

标注卷积结果的平面图

图片

卷积结果的平面图

尤其对于网络的最后一个节点,它的输出是预测结果

图片

它输出了长度为 10 的特征向量,即:预测图片属于哪个类别的权重。可以看到权重最大的是类别1​,类别1​对应的是裤子,所以模型的预测结果是正确的。

责任编辑:武晓燕 来源: 渡码
相关推荐

2022-05-16 08:57:36

Python可视化代码

2021-03-08 09:25:48

神经网络数据图形

2017-07-26 16:48:46

神经网络可视化工具TensorFlow

2020-06-15 17:40:32

神经网络人工智能可视化工具

2017-09-01 10:11:04

深度学习可视化工具

2020-07-01 09:08:55

神经网络深度学习网络

2019-12-23 14:17:46

数据可视化工具

2018-05-31 08:25:13

误区工具可视化

2019-04-23 08:00:25

大数据可视化工具数据分析

2016-08-21 15:38:31

大数据可视化工具

2019-06-27 16:28:39

数据可视化JupyterGoogle Char

2019-11-25 15:54:54

2020-12-15 09:43:20

Python可视化工具网络应用

2020-11-15 18:00:49

开源可视化工具Python

2020-12-28 10:20:57

数据可视化工具大数据

2020-03-24 09:50:33

工具代码开发

2020-05-31 18:01:06

数据科学IT工具

2018-09-26 16:15:31

数据可视化大数据数据分析

2018-03-27 22:35:35

百度

2021-06-11 17:45:57

点赞
收藏

51CTO技术栈公众号