Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
OpenDocCN
interpretable-ml-book-zh
提交
5c0493fb
I
interpretable-ml-book-zh
项目概览
OpenDocCN
/
interpretable-ml-book-zh
通知
3
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
I
interpretable-ml-book-zh
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
前往新版Gitcode,体验更适合开发者的 AI 搜索 >>
未验证
提交
5c0493fb
编写于
1月 04, 2020
作者:
B
binbinmeng
提交者:
GitHub
1月 04, 2020
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update 7.md
上级
82ca94b8
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
4 addition
and
3 deletion
+4
-3
docs/7.md
docs/7.md
+4
-3
未找到文件。
docs/7.md
浏览文件 @
5c0493fb
...
...
@@ -30,14 +30,15 @@
#### 7.1.1.1通过优化方法实现特征可视化
在数学上,特征可视化是一个优化问题。我们假设神经网络的权值是固定的,这意味着网络是经过训练的。我们正在寻找一种能使一个神经网络单元单元(这里是单个神经元)的(平均)激活最大化的新图像
<br>
![](
http://latex.codecogs.com/gif.latex?
\\img^*
= arg
\,\m
ax_{img}h_{nxyz}(img)
)
![](
http://latex.codecogs.com/gif.latex?
%5Cfn_cm%20img%5E*%20%3D%20arg%5C%2C%5Cmax_%7Bimg%7Dh_%7Bnxyz%7D%28img%29
)
函数h是神经元的激活,img是网络的输入(一幅图像),x和y描述神经元的空间位置,n表示层,z表示通道索引。对于n层整个通道z的平均激活,我们将其最大化下面公式:
$$ img^
*
= arg
\,\m
ax_{img}
\s
um_{x,y}h_{nxyz}(img) $$
![](
http://latex.codecogs.com/gif.latex?%5Cfn_cm%20img%5E*%20%3D%20arg%5C%2C%5Cmax_%7Bimg%7D%5Csum_%7Bx%2Cy%7Dh_%7Bnxyz%7D%28img%29
)
在这个公式中,z通道中所有神经元的权重相等。或者,你也可以最大化随机方向,这意味着神经元会被不同的参数相乘,包括负方向。通过这种方式,我们研究了神经元是如何在通道内相互作用的。您也可以最小化激活(对应于最大化负方向),而不是最大化激活。有趣的是,当你将负方向最大化时,你会得到相同神经网络单元非常不同的特征:
![](
https://github.com/binbinmeng/interpretable-ml-book-zh/blob/master/images/a484.png
)
图7.3:先启V1神经元484在混合4d前激活的阳性(左)和阴性(右)。当神经细胞被轮子最大限度地激活时,某些似乎有眼睛的东西却产生了负的激活。代码: https://colab.research.google.com/github/tensorflow/lucid/blob/master/notebooks/feature-visualization/negative_neurons.ipynb
我们可以用不同的方法来解决这个优化问题。首先,我们为什么要生成新图像?我们可以简单地在我们训练图像上搜索并选择那些激活值最大的。这是一种有效的方法,但使用训练数据存在这样的问题:图像上的元素可能相互关联,我们无法明白神经网络真正在寻找什么。如果图像某一特定的病出现高的激活值的通道出现了一只狗和一个网球,我们不知道神经网络是在看狗,看网球,还是两者都看。
<br>
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录