极大似然估计,又名最大似然估计,英文名maximum likelihood estimation,MLE,是数学中常用的求估计量的方法。应该如何求解呢?以求解logistic回归为例。
方法/步骤
1
写出极大似然函数的表达式。极大似然函数是未知变量X的所有可能结果的概率的乘积。
2
求出极大似然函数的对数的表达式并化简整理。由于极大似然函数的表达式是多项的乘积的形式,对关于未知参数求导(梯度)十分复杂,而求其对数之后,不仅没有改变原来的变化趋势,而且求导更加容易。
3
未知参数的极大似然估计,是使对数极大似然函数最大的值,如下面第一个图所示,简单来讲,就是求对数极大似然函数关于未知参数的导数为0的解。
下一篇:如何开始自学ACM,开始刷题?