参数的点估计

x 是随机变量的函数

矩估计法

用样本矩估计相应的总体矩

根据 独立同分布大数定律 得到

而总体矩和分布的参数相关，则可通过样本来得到参数的 估计量

通过对矩的阶进行变换得到多个方程来求解多个未知参数（或者用熟悉的方差）

$$\{\begin{array}{ll}\bar{X}& =EX\\ M_2& =D(X)\end{array}$$

• 要求期望必须存在
• 准确性可能不如极大似然估计

极大似然估计法

按照最大可能性准则

1. 对于某个抽样，说明这个事件发生了。需要找到参数使得发生这个事件的概率最大
2. 把这个事件关于参数的表达式求出，进而求出该值最大的时候参数的取值
3. 因为每个 X 是同分布、独立的，所以写成一系列的乘积
4. 对于 $P\{X=x_i\}=f(\theta ,x_i)$ 每一项的概率和参数和变量取值有关

称 $\prod p(x_i,\theta )$ 为似然函数

针对连续型变量，取任意一点的概率都为 0。将概率拓宽到点附近的邻域内，然后用概率密度乘以组距代替。因为组距不会影响概率的变化，所以只需要研究概率密度的最大值就可以了

故对于连续型用概率密度表示似然函数

1. 设 $(x_1,x_2,\dots ,x_n)$ 为一组样本观测值
2. 写出似然函数 $L=\prod f(x_i,\theta )$ （这里对 x 有限制的话，要注意如果任意一项为 0 的时候就归零了，所以不能碰到这个点才行，在此之上，下面都是对这个函数什么时候取最大值的分析）
3. 对似然函数求对数 $\ln L=g(\theta )\sum h(\theta ,x_i)$ （好求导）
4. 对 $\theta$ 求偏导，结果等于 0，写出方程组，解出参数

这里得到的是 极大似然估计值 。若要得到 极大似然估计量，需要将 x 替换为 X