【论文复现】参数和偏置初始化
Created by: kgkzhiwen
在复现中碰到下面这段代码:
for m in self.modules():
if isinstance(m, Conv3d):
nn.init.kaiming_normal_(m.weight, mode='fan_out', nonlinearity='relu')
elif isinstance(m, BatchNorm):
m.weight.data.fill_(1)
m.bias.data.zero_()
有几个问题:
- 怎么样loop得到模型中的每一层layer, sublayer?
- 然后怎么样设置其中的参数和偏置?
- 有没有办法把向上面的代码那样把参数或者偏置设为1或0?
谢谢!