本文总结了深度学习中常用的优化方法。
SGD
随机梯度下降（Stochastic Gradient Descent，SGD）
$$
w \leftarrow w - \eta \nabla w
$$
深度学习之优化方法
----------本文结束感谢您的阅读----------
坚持原创技术分享，您的支持将鼓励我继续创作！
- 本文链接： https://www.hegongshan.com/2021/01/26/deep-learning-optimizer/
- 版权声明： 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 3.0 许可协议。转载请注明出处！