提交 b2cf89fe 编写于 作者: A Aston Zhang

wd

上级 fbe5dba5
# 正则化——使用Gluon
# 权重衰减——使用Gluon
本节将介绍如何使用Gluon实现上一节介绍的正则化。导入实验所需的包或模块。
本节将介绍如何使用Gluon实现上一节介绍的权重衰减。导入实验所需的包或模块。
```{.python .input n=1}
import sys
......@@ -83,7 +83,7 @@ fit_and_plot(5)
## 小结
* 使用Gluon的`wd`超参数可以使用正则化来应对过拟合问题。
* 使用Gluon的`wd`超参数可以使用权重衰减来应对过拟合问题。
* 我们可以定义多个Trainer实例对不同的模型参数使用不同的迭代方法。
## 练习
......
# 正则化——从零开始
# 权重衰减——从零开始
上一节中我们观察了过拟合现象,即模型的训练误差远小于它在测试数据集上的误差。本节将介绍应对过拟合问题的常用方法:正则化
上一节中我们观察了过拟合现象,即模型的训练误差远小于它在测试数据集上的误差。本节将介绍应对过拟合问题的常用方法:权重衰减
## $L_2$范数正则化
......@@ -131,7 +131,7 @@ fit_and_plot(lambd=5)
## 小结
* 我们可以使用正则化来应对过拟合问题。
* 我们可以使用权重衰减来应对过拟合问题。
* $L_2$范数正则化通常会使学到的权重参数的元素较接近0。
* $L_2$范数正则化也叫权重衰减。
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册