马春杰杰博客
致力于深度学习经验分享!

标签:深度学习

[mcj]正则化怎么防止过拟合?为什么会发生过拟合?不讲公式只讲原理!-马春杰杰
深度学习

[mcj]正则化怎么防止过拟合?为什么会发生过拟合?不讲公式只讲原理!

马春杰杰评论(0)赞(0)

我们知道,当数据量较小的时候,比较容易产生过拟合,为了防止这种情况的发生,我们一般是有两种思路,一种是随时观察验证集的性能,当性能停止提高的时候,我们就人为的停止训练。另一种是加入正则化方法。 当出现过拟合的时候,往往拟合函数的系数会非常大...

[mcj]深度学习中的动量(momentum)是什么?-马春杰杰
深度学习

[mcj]深度学习中的动量(momentum)是什么?

马春杰杰评论(0)赞(0)

如果把梯度下降法想象成一个小球从山坡到山谷的过程,那么前面几篇文章的小球是这样移动的:从A点开始,计算当前A点的坡度,沿着坡度最大的方向走一段路,停下到B。在B点再看一看周围坡度最大的地方,沿着这个坡度方向走一段路,再停下。确切的来说,这并...

切换注册

登录

忘记密码 ?

切换登录

注册