【论文复现】[已解决(伪)] 关于SpectralNorm的问题
Created by: MoChen-bop
在实现模型时,需要使用spectral归一化,需要对Linear或Conv2D中的参数矩阵进行归一化操作,请问有什么好的方法,下面是我想到的一种方案: class LinearSNReLU(Linear):
def __init__(self, in_channels, out_channels):
super(LinearSNReLU, self).__init__(in_channels, out_channels)
def forward(self, inputs):
self.weight = fluid.layers.spectral_norm(self.weight)
x = super.forward(inputs)
x = fluid.layers.leaky_relu(x, alpha=0.2)
return x
可是self.weight类型不对,如何获得模型的权重参数,并对其施加spectral norm操作呢?