Loading...
首页问答  

cnn:为什么bn层的初始化默认是1呢?

钟离未央
钟离未央  发布于 2020-09-29 14:19:33 510

可以改变成类似conv2d的weight初始化嘛?
for m in self.modules():
if isinstance(m, nn.Conv2d):
n = m.kernelsize[0] m.kernel_size[1] m.out_channels
m.weight.data.normal(0, math.sqrt(2. / n))

#m.bias.data.zero_()

elif isinstance(m, nn.BatchNorm2d):
m.weight.data.fill(1)
m.bias.data.zero()
elif isinstance(m, nn.Linear):
init.kaimingnormal(m.weight)
m.bias.data.zero()

添加附件:文件小于20M
上传
易百纳技术社区
确定要删除此文章、专栏、评论吗?
确定
取消
易百纳技术社区