以线性回归为例：
我们之前的批量梯度下降，当数据量很大的时候，需要频繁读取数据并计算微分，开销很大，占用内存大。
随机梯度下降和批量梯度下降对比：
随机下降法：
1、将所有数据打乱；
2、分成m小份，每一次训练一份，相当于更新一次参数；然后遍历所有的样本就完成了训练。
最后，随机下降将会得到一个接近全局最小值，对于实际应用来说已经足够了 。
随机梯度下降（Stochastic gradient descent）
最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
- 文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
推荐阅读更多精彩内容
- 转载-刘建平Pinard-www.cnblogs.com/pinard/p/5970503.html 在求解机器学...
- 机器学习是做NLP和计算机视觉这类应用算法的基础，虽然现在深度学习模型大行其道，但是懂一些传统算法的原理和它们之间...
