高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性

新闻 人工智能
最近,一款神经网络可视化工具火了。这款工具叫做「nn_vis」,它采用了新的3D可视化技术,可以呈现这样的效果。

 [[385956]]

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

最近,一款神经网络可视化工具火了。

这款工具叫做「nn_vis」,它采用了新的3D可视化技术,可以呈现这样的效果:

高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性

其作者表示,之所以创建这个工具,是由于神经网络内部缺乏透明度,很难为不同任务选择有效的架构。

nn_vis究竟有什么与众不同?一起来了解一下。

它能够创建神经网络模型,还可以通过参数设置,得到不同的呈现形式;

高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性
高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性

并且,根据参数重要性的评估结果,对神经网络进行剪枝,从而简化模型;

同时,还可以对神经网络绑定过程实现可视化。

高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性

那么,这些功能是怎样实现的呢?

nn_vis利用神经网络优化领域的已有方法,采用批标准化、微调以及特征提取,评估训练后的神经网络不同部分的重要性。

再结合边绑定、光线跟踪、3D impostor和特殊的透明技术等,得到神经网络的3D模型,证明了评估结果的有效性。

具体来看看~

参数准备

首先通过 configs/processing.json ,进行神经网络处理的参数准备,就像这样:

  1.     "edge_bandwidth_reduction"0.9
  2.     "edge_importance_type"0
  3.     "layer_distance"0.5
  4.     "layer_width"1.0
  5.     "node_bandwidth_reduction"0.95
  6.     "prune_percentage"0.0
  7.     "sampling_rate"15.0
  8.     "smoothing"true
  9.     "smoothing_iterations"8 

也可以在图形用户界面进行设置:

高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性

创建神经网络模型

使用可视化工具start_tool.py,并选择神经网络Load Processed Network。

除了现有的网络,还可以生成随机网络,以及处理各种大小的网络。

与最常用的参数相比,可视化可以使训练参数更为结构化。

经过不同的训练,通过旋转、切换相机位置、截屏,可以得到类似这样的效果:

高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性


边越靠近,神经网络这些部分的泛化程度就越大,即更容易适应新的数据样本。

• 左侧的神经网络没有经过随机分配的值的训练:节点和边距离中心分布得更远;

• 中间的则经过一些基本训练,达到90%以上的准确性。

• 右侧的神经网络以相同方式训练,并且采用L1正则化防止过拟合,得到了具有相似准确性的最窄的模型。

评估各节点的重要性

根据节点和边的重要性进行着色,不同的颜色表示神经网络的每一部分,用来预测它们的关联性。

高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性

通过左图可以看出,修剪不重要的参数,不会像重要参数那样影响模型的预测准确性。

右图则显示出,根据类别的重要性修剪神经网络时,重要类别能够保留准确性。与整体准确性相比,重要类别的准确性始终更高。

通过对神经网络进行剪枝,即剪掉不重要的冗余参数,降低了模型的复杂度和过拟合风险,提升了泛化程度,得到更高效、训练成本更低的神经网络。

由此证明了重要性评估的有效性。

绑定过程可视化

通过不断迭代实现神经网络的绑定,大致过程是这样的:

高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性

可视化的神经网络绑定过程:

高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性

需要注意的是,处理每层的神经网络需要一定时间,计算并不是实时的。

不同的可视化效果

在图形用户界面或者通过configs/rendering.json,修改着色器参数,包括:

尺寸、对象的基本不透明度、即重要性对不透明度的影响比率、相机的距离对不透明度的影响比率、物体上不同点的密度对不透明度的影响比率、根据对象的重要性定义渲染对象的阈值。

即可得到不同的可视化效果:

高颜值神经网络可视化:3D彩色、可定制,还能可视化参数重要性

对这款工具感兴趣的朋友,可以通过文末链接获取~

GitHub项目地址:
https://github.com/julrog/nn_vis

 

 

责任编辑:张燕妮 来源: 量子位
相关推荐

2020-03-11 14:39:26

数据可视化地图可视化地理信息

2022-09-17 09:05:28

3D可视化工具

2012-11-13 10:52:15

大数据3D可视化

2018-04-03 14:42:46

Python神经网络深度学习

2009-08-03 21:43:03

IT运维可视化摩卡

2009-08-24 14:12:46

IT运维管理表单设计工具摩卡软件

2018-09-09 23:58:25

可视化神经网络模型

2022-08-26 09:15:58

Python可视化plotly

2017-10-14 13:54:26

数据可视化数据信息可视化

2009-04-21 14:26:41

可视化监控IT管理摩卡

2017-09-06 11:10:58

大数据数据可视化神经网络

2022-06-06 21:46:32

Kubernetes网络

2010-06-09 15:09:57

IP网络

2017-10-11 23:07:00

神经网络激活函数可视化

2022-11-01 16:02:31

架构神经网络模型

2022-05-17 10:05:55

Karma可视化面板Linux

2015-08-20 10:06:36

可视化

2023-08-18 06:59:58

2013-12-11 16:55:23

3DDCIM解决方案

2021-11-27 10:42:01

Three.js3D可视化AudioContex
点赞
收藏

51CTO技术栈公众号