From 513837a960aa61793beab417a45e197e761aa17a Mon Sep 17 00:00:00 2001 From: yaoxuefeng Date: Tue, 14 Apr 2020 17:45:22 +0800 Subject: [PATCH] add cn datanorm api enable_scale_and_shift option test=develop (#1969) --- doc/fluid/api_cn/layers_cn/data_norm_cn.rst | 1 + 1 file changed, 1 insertion(+) diff --git a/doc/fluid/api_cn/layers_cn/data_norm_cn.rst b/doc/fluid/api_cn/layers_cn/data_norm_cn.rst index c98363e67..78118dae2 100644 --- a/doc/fluid/api_cn/layers_cn/data_norm_cn.rst +++ b/doc/fluid/api_cn/layers_cn/data_norm_cn.rst @@ -39,6 +39,7 @@ data_norm - **slot_dim** （int, 默认值为-1） - 一个slot的embedding维度，slot用来表征一类特征的集合，在pslib模式下，通常我们通过slot区分特征id，并从参数服务器（pslib）中提取它们的embedding。embedding的第一维是历史上这个embedding展示的次数。如果本op的输入是由这样的embedding连接而来，那么当这个特征id是新的或空的，则正则化结果可能不实际。为了避免这种情况，我们添加了slot_dim来定位并判断这一维是否为零。如果是的话，我们选择跳过正则化。 - **summary_decay_rate** （float, 默认值为0.9999999） - 更新summary信息时的衰减率。 - **sync_stats** （bool, 默认值False） - 在多GPU卡的场景下可以使用，用来同步多卡间的summary信息。 + - **enable_scale_and_shift** (bool, 默认值False) - 在分布式全局正则化后是否做像batchnorm一样做scale&shift的操作。 返回: 张量变量，是对输入数据进行正则化后的结果。 -- GitLab