分享
点赞 收藏
CNN,lstm,mlp一般使用哪种初始化权重方法?

1 · 发布于 2021-08-06 13:47:45

权重初始化直接影响到模型的训练,影响到收敛性能以及效果。 优化器虽然逻辑有差异,但其实当迭代次数足够多的时候,在同一份数据上优化的性能都差不多,只是不同的优化器速度上有差异,所以权重的初始化与这个也差不多,只要我们的迭代次数足够多,只要我们的数据足够大,只要我们的网络不是非常简单,达到了一定的层级,
BigQuant
551粉丝
关注

0条评论

还能输入1000个字符