未验证 提交 6bb9913b 编写于 作者: J Jason 提交者: GitHub

Delete ReLU.md

上级 cd1e4505
## ReLU
### [ReLU](http://caffe.berkeleyvision.org/tutorial/layers/relu.html)
```
layer {
name: "relu"
type: "ReLU"
bottom: "data"
top: "relu"
relu_param{
negative_slope: 0
}
}
```
### [paddle.fluid.layers.relu](http://paddlepaddle.org/documentation/docs/zh/1.3/api_cn/layers_cn.html#permalink-128-relu)
```python
paddle.fluid.layers.relu(
x,
name=None
)
```
```python
paddle.fluid.layers.leaky_relu(
x,
alpha = 0.02,
name=None
)
```
### 功能差异
#### 实现的差异
Caffe:使用这个Layer即可分别实现ReLU和Leaky ReLU两个功能。
$$
y=\begin{cases}
x,\quad x\geq 0 \\\\
\alpha \times x,\quad x<0
\end{cases}
$$
PaddlePaddle:只能通过两个函数分别实现ReLU和Leaky ReLU。
$$
y=max(x,\alpha \times x)
$$
当alpha设置为0时,也可以直接使用Leaky ReLU带带Caffe中的ReLU层。
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册