未验证 提交 df1e9f7f 编写于 作者: B binbinmeng 提交者: GitHub

Update 7.md

上级 87e5d5fb
......@@ -35,8 +35,7 @@ $$ img^* = arg\,\max_{img}h_{nxyz}(img) $$
函数h是神经元的激活,img是网络的输入(一幅图像),x和y描述神经元的空间位置,n表示层,z表示通道索引。对于n层整个通道z的平均激活,我们将其最大化下面公式:
$$ img^* = arg\,\max_{img}\sum_{x,y}h_{nxyz}(img) $$
在这个公式中,z通道中所有神经元的权重相等。或者,你也可以最大化随机方向,这意味着神经元会被不同的参数相乘,包括负方向。通过这种方式,我们研究了神经元是如何在通道内相互作用的。您也可以最小化激活(对应于最大化负方向),而不是最大化激活。有趣的是,当你将负方向最大化时,你会得到相同神经网络单元非常不同的特征:<br>
在这个公式中,z通道中所有神经元的权重相等。或者,你也可以最大化随机方向,这意味着神经元会被不同的参数相乘,包括负方向。通过这种方式,我们研究了神经元是如何在通道内相互作用的。您也可以最小化激活(对应于最大化负方向),而不是最大化激活。有趣的是,当你将负方向最大化时,你会得到相同神经网络单元非常不同的特征:
![](https://github.com/binbinmeng/interpretable-ml-book-zh/blob/master/images/a484.png)
图7.3:先启V1神经元484在混合4d前激活的阳性(左)和阴性(右)。当神经细胞被轮子最大限度地激活时,某些似乎有眼睛的东西却产生了负的激活。代码: https://colab.research.google.com/github/tensorflow/lucid/blob/master/notebooks/feature-visualization/negative_neurons.ipynb
......@@ -61,11 +60,11 @@ $$ img^* = arg\,\max_{img}\sum_{x,y}h_{nxyz}(img) $$
  提前说明:卷积神经网络并不是完全无纠缠的。现在,我们将更仔细地研究网络分解,以找出如何解释神经网络。<br>
#### 7.1.2.1网络分解算法
  网络分解有三个步骤:
   1. 获取带有人类视觉概念的图像,从条纹到摩天大楼。
   2. 对这些图像测量CNN通道激活值。
   3. 量化激活值和被标记概念一致性。
  下图显示了如何将图像前向传播到一个通道并与标被记的概念进行匹配。
  网络分解有三个步骤:<br>
   1. 获取带有人类视觉概念的图像,从条纹到摩天大楼。<br>
   2. 对这些图像测量CNN通道激活值。<br>
   3. 量化激活值和被标记概念一致性。<br>
  下图显示了如何将图像前向传播到一个通道并与标被记的概念进行匹配。<br>
![](https://github.com/binbinmeng/interpretable-ml-book-zh/blob/master/images/dissection-network.png)
图7.5:对于给定的输入图像和经过训练的网络(固定权值),我们将图像向前传播到目标层,提升激活度以匹配原始图像的大小,并将最大激活度与ground truth像素分割进行比较。数据来源于Bau & Zhou等人(2017)。
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册