未验证 提交 5c0493fb 编写于 作者: B binbinmeng 提交者: GitHub

Update 7.md

上级 82ca94b8
......@@ -30,14 +30,15 @@
#### 7.1.1.1通过优化方法实现特征可视化
  在数学上,特征可视化是一个优化问题。我们假设神经网络的权值是固定的,这意味着网络是经过训练的。我们正在寻找一种能使一个神经网络单元单元(这里是单个神经元)的(平均)激活最大化的新图像<br>
![](http://latex.codecogs.com/gif.latex?\\img^* = arg\,\max_{img}h_{nxyz}(img))
![](http://latex.codecogs.com/gif.latex?%5Cfn_cm%20img%5E*%20%3D%20arg%5C%2C%5Cmax_%7Bimg%7Dh_%7Bnxyz%7D%28img%29)
函数h是神经元的激活,img是网络的输入(一幅图像),x和y描述神经元的空间位置,n表示层,z表示通道索引。对于n层整个通道z的平均激活,我们将其最大化下面公式:
$$ img^* = arg\,\max_{img}\sum_{x,y}h_{nxyz}(img) $$
![](http://latex.codecogs.com/gif.latex?%5Cfn_cm%20img%5E*%20%3D%20arg%5C%2C%5Cmax_%7Bimg%7D%5Csum_%7Bx%2Cy%7Dh_%7Bnxyz%7D%28img%29)
在这个公式中,z通道中所有神经元的权重相等。或者,你也可以最大化随机方向,这意味着神经元会被不同的参数相乘,包括负方向。通过这种方式,我们研究了神经元是如何在通道内相互作用的。您也可以最小化激活(对应于最大化负方向),而不是最大化激活。有趣的是,当你将负方向最大化时,你会得到相同神经网络单元非常不同的特征:
![](https://github.com/binbinmeng/interpretable-ml-book-zh/blob/master/images/a484.png)
图7.3:先启V1神经元484在混合4d前激活的阳性(左)和阴性(右)。当神经细胞被轮子最大限度地激活时,某些似乎有眼睛的东西却产生了负的激活。代码: https://colab.research.google.com/github/tensorflow/lucid/blob/master/notebooks/feature-visualization/negative_neurons.ipynb
  我们可以用不同的方法来解决这个优化问题。首先,我们为什么要生成新图像?我们可以简单地在我们训练图像上搜索并选择那些激活值最大的。这是一种有效的方法,但使用训练数据存在这样的问题:图像上的元素可能相互关联,我们无法明白神经网络真正在寻找什么。如果图像某一特定的病出现高的激活值的通道出现了一只狗和一个网球,我们不知道神经网络是在看狗,看网球,还是两者都看。<br>
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册