九月 24, 2019

深度模型中的优化——momentum|AdaGrad|RMSProp|Adam

momentum、AdaGrad、RMSProp、Adam 方法是对定步长SGD的改进。本文做了介绍和总结，并给出了代码模拟。

九月 21, 2019

工程优化：牛顿法的缺陷及拟牛顿法的概念与实现

牛顿法相比于SGD能够更快地收敛，同时本文给出DFP、BFGSL、BFGS拟牛顿法的推导和实现

九月 20, 2019

工程优化：梯度下降(SGD & BGD)、牛顿法的概念与实现

随机梯度下降(Gradient descent)和牛顿法(Newton's method)是工程优化和机器学习中非常基础的知识，本文解释了其概念并利用Python进行了实现。

九月 09, 2019

数理知识:参数估计——点估计、区间估计及置信区间

参数估计是数理统计中重要的统计推断问题之一

九月 07, 2019

数理知识:概率论与信息论基础

概率论和信息论是不可分割的两门现代计算机基础学科。

九月 07, 2019

数理知识:统计决策理论|贝叶斯决策与两类错误率

概率论和机器学习中，贝叶斯决策和两类错误率是非常重要的知识。

九月 07, 2019

数理知识:统计决策理论|贝叶斯公式和最大似然估计笔记

贝叶斯定理及最大(极大)似然估计(maximum-likelihood)是机器学习的数理基础。