提交 f29cedb2 编写于 作者: A Aston Zhang

rm mlp, opt inline

上级 8aa010c5
......@@ -9,7 +9,7 @@
多层感知机在单层神经网络的基础上引入了一到多个隐藏层(hidden layer)。隐藏层位于输入层和输出层之间。图3.3展示了一个多层感知机的神经网络图。
![带有隐藏层的多层感知机。它含有一个隐藏层,该层中有5个隐藏单元。](../img/mlp-units.svg)
![带有隐藏层的多层感知机。它含有一个隐藏层,该层中有5个隐藏单元。](../img/mlp.svg)
在图3.3的多层感知机中,输入和输出个数分别为4和3,中间的隐藏层中包含了5个隐藏单元(hidden unit)。由于输入层不涉及计算,图3.3中的多层感知机的层数为2。由图3.3可见,隐藏层中的神经元和输入层中各个输入完全连接,输出层中的神经元和隐藏层中的各个神经元也完全连接。因此,多层感知机中的隐藏层和输出层都是全连接层。
......@@ -43,8 +43,6 @@ $$\text{relu}(x) = \max(x, 0).$$
可以看出,ReLU函数只保留正数元素,并将负数元素清零。为了直观地观察这一非线性变换,我们先定义一个绘图函数`xyplot`
```{.python .input}
# 将图打印在 Jupyter notebook 的文本之间。
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -5,7 +5,6 @@
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -46,7 +46,6 @@ def adadelta(params, sqrs, deltas, rho, batch_size):
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -6,7 +6,6 @@
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -55,7 +55,6 @@ def adagrad(params, sqrs, lr, batch_size):
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -5,7 +5,6 @@
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -61,7 +61,6 @@ def adam(params, vs, sqrs, lr, batch_size, t):
首先,导入实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -5,7 +5,6 @@
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -120,7 +120,6 @@ def sgd(params, lr, batch_size):
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -5,7 +5,6 @@
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -89,7 +89,6 @@ def sgd_momentum(params, vs, lr, mom, batch_size):
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -24,7 +24,6 @@
优化在深度学习中有很多挑战。以下描述了其中的两个挑战:局部最小值和鞍点。为了更好地描述问题,我们先导入本节中实验需要的包或模块。
```{.python .input n=1}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -6,7 +6,6 @@
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
......@@ -44,7 +44,6 @@ def rmsprop(params, sqrs, lr, gamma, batch_size):
首先,导入本节中实验所需的包或模块。
```{.python .input}
%matplotlib inline
import sys
sys.path.append('..')
import gluonbook as gb
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册