标签：深度学习中的学习率衰减

深度学习中的学习率衰减

1 为什么要学习率衰减? 　　PyTorch中的学习率并不总是一成不变的，而是可以随着epoch或者迭代次数的变化而有规律地更新，称之为scheduler。　　在神经网络的训练过程中，当accuracy出现震荡或loss不再下降时，进行适...