Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
OpenDocCN
interpretable-ml-book-zh
提交
df1e9f7f
I
interpretable-ml-book-zh
项目概览
OpenDocCN
/
interpretable-ml-book-zh
通知
3
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
I
interpretable-ml-book-zh
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
前往新版Gitcode,体验更适合开发者的 AI 搜索 >>
未验证
提交
df1e9f7f
编写于
1月 04, 2020
作者:
B
binbinmeng
提交者:
GitHub
1月 04, 2020
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update 7.md
上级
87e5d5fb
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
6 addition
and
7 deletion
+6
-7
docs/7.md
docs/7.md
+6
-7
未找到文件。
docs/7.md
浏览文件 @
df1e9f7f
...
...
@@ -35,8 +35,7 @@ $$ img^* = arg\,\max_{img}h_{nxyz}(img) $$
函数h是神经元的激活,img是网络的输入(一幅图像),x和y描述神经元的空间位置,n表示层,z表示通道索引。对于n层整个通道z的平均激活,我们将其最大化下面公式:
$$ img^
*
= arg
\,\m
ax_{img}
\s
um_{x,y}h_{nxyz}(img) $$
在这个公式中,z通道中所有神经元的权重相等。或者,你也可以最大化随机方向,这意味着神经元会被不同的参数相乘,包括负方向。通过这种方式,我们研究了神经元是如何在通道内相互作用的。您也可以最小化激活(对应于最大化负方向),而不是最大化激活。有趣的是,当你将负方向最大化时,你会得到相同神经网络单元非常不同的特征:
<br>
在这个公式中,z通道中所有神经元的权重相等。或者,你也可以最大化随机方向,这意味着神经元会被不同的参数相乘,包括负方向。通过这种方式,我们研究了神经元是如何在通道内相互作用的。您也可以最小化激活(对应于最大化负方向),而不是最大化激活。有趣的是,当你将负方向最大化时,你会得到相同神经网络单元非常不同的特征:
![](
https://github.com/binbinmeng/interpretable-ml-book-zh/blob/master/images/a484.png
)
图7.3:先启V1神经元484在混合4d前激活的阳性(左)和阴性(右)。当神经细胞被轮子最大限度地激活时,某些似乎有眼睛的东西却产生了负的激活。代码: https://colab.research.google.com/github/tensorflow/lucid/blob/master/notebooks/feature-visualization/negative_neurons.ipynb
...
...
@@ -61,11 +60,11 @@ $$ img^* = arg\,\max_{img}\sum_{x,y}h_{nxyz}(img) $$
提前说明:卷积神经网络并不是完全无纠缠的。现在,我们将更仔细地研究网络分解,以找出如何解释神经网络。
<br>
#### 7.1.2.1网络分解算法
网络分解有三个步骤:
1. 获取带有人类视觉概念的图像,从条纹到摩天大楼。
2. 对这些图像测量CNN通道激活值。
3. 量化激活值和被标记概念一致性。
下图显示了如何将图像前向传播到一个通道并与标被记的概念进行匹配。
网络分解有三个步骤:
<br>
1. 获取带有人类视觉概念的图像,从条纹到摩天大楼。
<br>
2. 对这些图像测量CNN通道激活值。
<br>
3. 量化激活值和被标记概念一致性。
<br>
下图显示了如何将图像前向传播到一个通道并与标被记的概念进行匹配。
<br>
![](
https://github.com/binbinmeng/interpretable-ml-book-zh/blob/master/images/dissection-network.png
)
图7.5:对于给定的输入图像和经过训练的网络(固定权值),我们将图像向前传播到目标层,提升激活度以匹配原始图像的大小,并将最大激活度与ground truth像素分割进行比较。数据来源于Bau & Zhou等人(2017)。
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录