未验证 提交 c6181a9f 编写于 作者: J Jason 提交者: GitHub

Update BatchNorm.md

上级 ff726056
......@@ -39,19 +39,6 @@ paddle.fluid.layers.batch_norm(
```
### 功能差异
#### 输出结果的差异
Caffe:输出只是单纯的使用均值和方差进行归一化计算,没有缩放变换这一过程,若要完成后面这一过程需要搭配Scale层进行使用。
PaddlePaddle:完成了归一化和缩放变换两个过程,是完整的一个Batch Normalization过程。
#### 输入参数的差异
Caffe:共需要3个输入参数:均值向量、方差向量、滑动系数。
PaddlePaddle:共需要4个输入参数:均值向量、方差向量、缩放变量`param_attr`和缩放变量`bias_attr`
#### 计算方式的差异
Caffe:输入的均值和方差都需要与滑动系数进行计算得出新均值和方差,再进行归一化处理。
PaddlePaddle:直接使用输入的均值和方差进行归一化处理。
#### 其他差异
Caffe:激活函数需要由另外一层完成。
PaddlePaddle:可以通过设置`act``fuse_with_relu`看是否在进行Batch Normalization后进行激活函数的操作。
#### 计算机制
Caffe:`BatchNorm`仅做了归一化计算,需结合`Scale`层进行缩放变换;
PaddlePaddle:包括归一化计算和缩放变换,`param_attr``bias_attr`即为缩放变换的设置参数。
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册