马春杰杰博客
致力于深度学习经验分享!

Pytorch学习

pytorch现在真的是特火,在深度学习领域,前面火了tensorflow和caffe,后来pytorch后来者居上,慢慢在追赶tensorflow,现在学术界基本上都在往pytorch上面追,tensor由于其静态图,所以慢慢很多人都不用了,不过它也在改变。
深度学习中的学习率衰减-马春杰杰

深度学习中的学习率衰减

马春杰杰评论(0)赞(249)

1 为什么要学习率衰减?   PyTorch中的学习率并不总是一成不变的,而是可以随着epoch或者迭代次数的变化而有规律地更新,称之为scheduler。   在神经网络的训练过程中,当accuracy出现震荡或loss不再下降时,进行适...

登录

忘记密码 ?

切换登录

注册