Created by: jayhenry

目前 lr 支持schedule方式, 如piecewise_decay等，是将 lr 定义为variable然后传到optimizer op的inputs中。 但是其他一些超参，如momentum, L2Decay系数等，能否做到schedule？ 目前paddle静态图实现是将momentum, L2Decay.coeff作为Op的Attr，这样就不能将其定义为variable了。那有什么其他方式在静态图中实现 momentum, l2 coeff的schedule吗？ 如果目前无法实现，后面会支持吗？ 另外，动态图能够支持这个功能吗？

关于为何要做momentum的schedule，可以参考 fastai的官方文档 OneCycleScheduler部分，以及相关论文