九月 20, 2019
工程优化：梯度下降(SGD & BGD)、牛顿法的概念与实现
随机梯度下降(Gradient descent)和牛顿法(Newton's method)是工程优化和机器学习中非常基础的知识，本文解释了其概念并利用Python进行了实现。
九月 24, 2019
深度模型中的优化——momentum|AdaGrad|RMSProp|Adam
momentum、AdaGrad、RMSProp、Adam 方法是对定步长SGD的改进。本文做了介绍和总结，并给出了代码模拟。