未验证 提交 351a4aba 编写于 作者: Z zhongpu 提交者: GitHub

fix Layer、label_smooth and Pool2D api, test=develop (#1506)

* fix Layer and Pool2D api, test=develop

* update label_smooth_cn.rst, test=develop
上级 5459efb2
......@@ -3,13 +3,13 @@
Layer
-------------------------------
.. py:class:: paddle.fluid.dygraph.Layer(name_scope, dtype=VarType.FP32)
.. py:class:: paddle.fluid.dygraph.Layer(name_scope, dtype=core.VarDesc.VarType.FP32)
基于OOD实现的动态图Layer, 包含该Layer的参数、前序运行的结构等信息。
基于OOD实现的动态图Layer,包含该Layer的参数、前序运行的结构等信息。
参数:
- **name_scope** (str) - 为Layer内部参数命名而采用的名称前缀。如果前缀为“my_model/layer_1”,在一个类名为MyLayer的Layer中,参数名为“my_model/layer_1/MyLayer/w_n”,其中w是参数的名称,n为自动生成的具有唯一性的后缀。
- **dtype** (core.VarDesc.VarType) - Layer中参数数据类型,默认值为core.VarDesc.VarType.FP32
- **dtype** (str|core.VarDesc.VarType, 可选) - Layer中参数数据类型。如果设置为str,则可以是“bool”,“float16”,“float32”,“float64”,“int8”,“int16”,“int32”,“int64”,“uint8”或“uint16”。默认值为 ``core.VarDesc.VarType.FP32``
返回:无
......@@ -28,13 +28,13 @@ Layer的全名。组成方式为: ``name_scope`` + “/” + MyLayer.__class__
参数:
- **attr** (ParamAttr) - 指定权重参数属性的对象。默认值为None,表示使用默认的权重参数属性。具体用法请参见 :ref:`cn_api_fluid_ParamAttr` 。
- **shape** (list) - 参数的形状。列表中的数据类型必须为int。
- **dtype** (float|int|core.VarDesc.VarType) - 参数的数据类型
- **is_bias** (bool, 可选) - 是否使用偏置参数。默认值:False。
- **default_initializer** (Initializer, 可选) - 默认的参数初始化方法。默认值:None。
- **dtype** (str|core.VarDesc.VarType, 可选) - Layer中参数数据类型。如果设置为str,则可以是“bool”,“float16”,“float32”,“float64”,“int8”,“int16”,“int32”,“int64”,“uint8”或“uint16”。默认值为 ``core.VarDesc.VarType.FP32``
- **is_bias** (bool, 可选) - 是否偏置参数。默认值:False。
- **default_initializer** (Initializer, 可选) - 默认的参数初始化方法。如果设置为None,则设置非bias参数的初始化方式为 :ref:`cn_api_fluid_initializer_XavierInitializer` ,设置bias参数的初始化方式为 :ref:`cn_api_fluid_initializer_ConstantInitializer` 。默认值:None。
返回:创建的参数变量
返回类型:Variable
返回类型: :ref:`cn_api_fluid_Variable`
.. py:method:: create_variable(name=None, persistable=None, dtype=None, type=VarType.LOD_TENSOR)
......@@ -43,12 +43,12 @@ Layer的全名。组成方式为: ``name_scope`` + “/” + MyLayer.__class__
参数:
- **name** (str, 可选) - 变量名。默认值:None。
- **persistable** (bool, 可选) - 是否为持久性变量,后续会被移出。默认值:None。
- **dtype** (core.VarDesc.VarType, 可选) - 变量中的数据类型。默认值:None
- **type** (core.VarDesc.VarType, 可选) - 变量类型。默认值:core.VarDesc.VarType.LOD_TENSOR。
- **dtype** (str|core.VarDesc.VarType, 可选) - Layer中参数数据类型。如果设置为str,则可以是“bool”,“float16”,“float32”,“float64”,“int8”,“int16”,“int32”,“int64”,“uint8”或“uint16”。默认值为 ``core.VarDesc.VarType.FP32``
- **type** (core.VarDesc.VarType, 可选) - 变量类型,该参数不需要用户设置。默认值:core.VarDesc.VarType.LOD_TENSOR。
返回:创建的 ``Tensor``
返回类型:Variable
返回类型: :ref:`cn_api_fluid_Variable`
.. py:method:: parameters(include_sublayers=True)
......@@ -72,9 +72,17 @@ Layer的全名。组成方式为: ``name_scope`` + “/” + MyLayer.__class__
返回类型:list
.. py:method:: forward(*inputs, **kwargs)
定义每次调用时执行的计算。应该被所有子类覆盖。
参数:
- **\*inputs** (tuple) - 解包后的tuple参数。
- **\*\*kwargs** (dict) - 解包后的dict参数。
.. py:method:: add_sublayer(name, sublayer)
添加子层实例。可以通过self.name的方式来使用sublayer。
添加子层实例。可以通过self.name访问该sublayer。
参数:
- **name** (str) - 子层名。
......@@ -86,7 +94,7 @@ Layer的全名。组成方式为: ``name_scope`` + “/” + MyLayer.__class__
.. py:method:: add_parameter(name, parameter)
添加参数实例。可以通过self.name的方式来使用parameter。
添加参数实例。可以通过self.name访问该parameter。
参数:
- **name** (str) - 参数名。
......@@ -94,5 +102,77 @@ Layer的全名。组成方式为: ``name_scope`` + “/” + MyLayer.__class__
返回:传入的参数实例
返回类型:Parameter(Variable)
返回类型:Parameter( :ref:`cn_api_fluid_Variable` )
.. py:method:: state_dict(destination=None, include_sublayers=True)
获取当前层及其子层的所有参数。并将所有参数存放在dict结构中。
参数:
- **destination** (dict, 可选) - 如果提供 ``destination`` ,则所有参数都将存放在 ``destination`` 中。 默认值:None。
- **include_sublayers** (bool, 可选) - 如果设置为True,则包括子层的参数。默认值:True。
返回:包含所有参数的dict
返回类型:dict
**代码示例**
.. code-block:: python
import paddle.fluid as fluid
with fluid.dygraph.guard():
emb = fluid.dygraph.Embedding("emb", [10, 10])
state_dict = emb.state_dict()
fluid.save_dygraph(state_dict, "paddle_dy")
.. py:method:: set_dict(stat_dict, include_sublayers=True)
根据传入的 ``stat_dict`` 设置参数。 所有参数将由 ``stat_dict`` 中的 ``Tensor`` 设置。
参数:
- **state_dict** (dict) - 包含所有参数的dict。
- **include_sublayers** (bool, 可选) - 如果设置为True,则还包括子层的参数。 默认值:True。
返回:None
**代码示例**
.. code-block:: python
import paddle.fluid as fluid
with fluid.dygraph.guard():
emb = fluid.dygraph.Embedding("emb", [10, 10])
state_dict = emb.state_dict()
fluid.save_dygraph(state_dict, "paddle_dy")
para_state_dict, _ = fluid.load_dygraph("paddle_dy")
emb.set_dict(para_state_dict)
.. py:method:: load_dict(stat_dict, include_sublayers=True)
.. raw:: html
<style> .red {color:red; font-weight:bold} </style>
.. role:: red
:red:`注意:该函数将被弃用。请使用set_dict函数。`
根据传入的 ``stat_dict`` 设置参数。 所有参数将由 ``stat_dict`` 中的 ``Tensor`` 设置。
参数:
- **state_dict** (dict) - 包含所有参数的dict。
- **include_sublayers** (bool, 可选) - 如果设置为True,则还包括子层的参数。 默认值:True。
返回:None
**代码示例**
.. code-block:: python
import paddle.fluid as fluid
with fluid.dygraph.guard():
emb = fluid.dygraph.Embedding("emb", [10, 10])
state_dict = emb.state_dict()
fluid.save_dygraph(state_dict, "paddle_dy")
para_state_dict, _ = fluid.load_dygraph("paddle_dy")
emb.load_dict(para_state_dict)
......@@ -61,7 +61,7 @@ Pool2D
- **use_cudnn** (bool, 可选)- 是否用cudnn核,只有已安装cudnn库时才有效。默认True。
- **ceil_mode** (bool, 可选)- 是否用ceil函数计算输出高度和宽度。如果设为False,则使用floor函数。默认为False。
- **exclusive** (bool, 可选) - 是否在平均池化模式忽略填充值。默认为True。
- **dtype** (core.VarDesc.VarType, 可选) - 数据类型,可以为float32或float64。默认为float32。
- **dtype** (str, 可选) - 输入的数据类型,可以为float32或float64。默认为float32。
返回:无
......
......@@ -13,7 +13,7 @@ label_smooth
\tilde{y_k} = (1 - \epsilon) * y_k + \epsilon * \mu_k,
其中 :math:`1-\epsilon` 和 :math:`\epsilon` 分别是权重, :math:`\tilde{y_k}` 是平滑后的标签。 通常μ 使用均匀分布
其中 :math:`1-\epsilon` 和 :math:`\epsilon` 分别是权重, :math:`\tilde{y_k}` 是平滑后的标签,通常 :math:`\mu` 使用均匀分布。
关于更多标签平滑的细节, `查看论文 <https://arxiv.org/abs/1512.00567>`_ 。
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册