6-1参数的点估计

第六章 参数估计§6.1 点估计的几种方法6.1.1 替换原理和矩法估计 一、矩法估计替换原理：(1)用样本矩去替换总体矩，这里的矩可以是原点矩也可以是中心矩；(2)用样本矩的函数去替换相应的总体矩的函数。

举例二、概率函数);(θx p 已知时未知参数的矩法估计设总体具有已知的概率函数),,;(1k x p θθ ，∈),,(1k θθ Θ是未知参数或参数向量，n x x x ,,21 是样本，假定总体的k 阶原点矩k μ存在，则对所有j ，,0k j <<j μ都存在，若假设k θθ,,1 能够表示成k μμ,,1 的函数),,(1k j j μμθθ =，则可给出诸j θ的矩法估计：k j a a kj j ,1),,,(ˆ1==θθ 其中k a a ,,1 是前k 个样本原点矩：∑==n i ji j x n a 11，进一步，如果要估计k θθ,,1 的函数),(1k g θθη =，则可直接得到η的矩法估计)ˆ,ˆ(ˆ1kg θθη=。

例1 设总体为指数分布，其密度函数为x e x p λλλ-=);(，0>xn x x x ,,21 是样本，此处1=k ，由于λ/1=EX ，亦即EX /1=λ，故λ的矩法估计为x /1ˆ=λ另外，由于2/1)(λ=X Var ，其反函数为)(/1X Var =λ，因此，从替换原理来看，λ的矩法估计也可取为s /1ˆ1=λ， s 样本标准差。

这说明矩估计可能是不唯一的，这是矩法估计的一个缺点，此时通常应该尽量采用低阶矩给出未知参数的估计。

例2设n x x x ,,21 是来自),(b a 上的均匀分布的样本，a 与b 均是未知参数，这里2=k 其密度函数为⎪⎩⎪⎨⎧≤≤-=0,1),;(bx a a b b a x p ，求a ，b 的矩估计.解 由2)(121)(,2)(a b X D b a X E -=+= 得方程组：⎪⎪⎩⎪⎪⎨⎧-==-=+∑=n i i X X n X V a r a b X b a 122.)(1)()(121,2解此方程组，得到矩估计量: .)(3ˆ , )(3ˆX Var X b X Var X a+=-= 6.1.2最大似然估计定义6.1.1 设总体的概率函数为);(θx p ，Θ∈θ，其中θ是一个未知参数或几个未知参数组成的参数向量，Θ是参数θ可能取值的参数空间，n x x x ,,21 是来自该总体的样本，将样本的联合概率函数看成θ的函数，用),,;(21n x x x L θ表示，简记为)(θL ，);();();(),,;()(2121θθθθθn n x p x p x p x x x L L ==)(θL 称为样本的似然函数。

要览● 提示复习数学期望与方差的定义、性质 熟记点估计的概念（估计量与估计值） 熟记估计量的评选标准● 辨析一、点估计概述1、参数估计在实际问题中, 当所研究的总体分布类型已知, 但分布中含有一个或多个未知参数时, 如何根据样本来估计未知参数，这就是参数估计问题.参数估计问题分为点估计问题与区间估计问题两类. 所谓点估计就是用某一个函数值作为总体未知参数的估计值；区间估计就是对于未知参数给出一个范围，并且在一定的可靠度下使这个范围包含未知参数.例如, 灯泡的寿命X 是一个总体, 根据实际经验知道, X 服从2(,)N μσ, 但对每一批灯泡而言, 参数2,μσ是未知的,要写出具体的分布函数, 就必须确定出参数. 此类问题就属于参数估计问题.参数估计问题的一般提法:设有一个统计总体, 总体的分布函数为(,)F x θ, 其中θ为未知参数(θ可以是向量). 现从该总体中随机地抽样, 得一样本12,,,n X X X再依据该样本对参数θ作出估计, 或估计参数θ的某已知函数()g θ.2、点估计的概念（估计量与估计值）设12(,,,)n X X X 是取自总体X 的样本，其观测值为12(,,,)n x x x ，θ是总体X 的未知参数，参数的点估计就是构造一个统计量12(,,,)n X X X θ 随机变量 去估计未知参数θ；以其观测值12(,,,)n x x x θ 数值 来估计θ的真值.注: 估计量12(,,,)n X X X θ∧是一个随机变量, 是样本的函数，即是一个统计量, 对不同的样本值, θ的估计值 θ一般是不同的.二、估计量的评选标准在具体介绍估计量的评价标准之前, 需指出: 评价一个估计量的好坏, 不能仅仅依据一次试验的结果, 而必须由多次试验结果来衡量. 因为估计量是样本的函数, 是随机变量. 故由不同的观测结果, 就会求得不同的参数估计值. 因此一个好的估计, 应在多次重复试验中体现出其优良性.1、无偏性 P147定义1 估计量是随机变量, 对于不同的样本值会得到不同的估计值. 一个自然的要求是希望估计值在未知参数真值的附近, 不要偏高也不要偏低. 由此引入无偏性标准.定义1 设 12(,,,)n X X X θθ= 为未知参数θ的估计量，如果 E θθ= 则称 θ是θ的无偏估计量；否则，称 θ是θ的有偏估计量.如果 n lim E θθ→+∞= 则称 θ是θ的渐进无偏估计量. 注: 无偏性是对估计量的一个常见而重要的要求, 其实际意义是指估计量没有系统偏差，只有随机偏差. 在科学技术中, 称()E θθ- 为用 θ估计θ而产生的系统误差. 例如, 用样本均值作为总体均值的估计时, 虽无法说明一次估计所产生的偏差, 但这种偏差随机地在0的周围波动,对同一统计问题大量重要使用不会产生系统偏差.对一般总体而言，我们有定理1 (P147)设12,,,n X X X 为取自总体X 的样本,总体X 的均值为μ, 方差为2σ.则(1) 样本均值X 是μ的无偏估计量;(2) 样本方差2211()1n i i SX X n ==--∑是2σ的无偏估计量; (3) 样本二阶中心矩2211()ni i B X X n ==-∑是2σ的有偏估计量.2、有效性 P149定义2 一个参数θ常有多个无偏估计量,在这些估计量中,自然应选用对θ的偏离程度较小的为好,即一个较好的估计量的方差应该较小.由此引入评选估计量的另一标准—有效性.定义2 设 1112(,,,)n X X X θθ= 与 2212(,,,)n X X X θθ= 为未知参数θ的两个无偏估计量，如果12D D θθ< 则称1θ∧较2θ∧有效.注: 在数理统计中常用到最小方差无偏估计, 其定义如下:设12,,,nX X X 为取自总体X 的一个样本, 12(,,,)n X X X θ是未知参数θ的一个估计量, 若 θ满足: (1) ()E θθ=,即 θ为θ的无偏估计; (2) ()()D D θθ*≤, θ*是θ的任一无偏估计. 则称 θ为θ的最小方差无偏估计(也称最佳无偏估计). 3、相合性（一致性） P151定义3 我们不仅希望一个估计量是无偏的, 并且具有较小的方差, 还希望当样本容量无限增大时, 估计量能在某种意义下任意接近未知参数的真值, 由此引入相合性(一致性)的评价标准.定义3 设 12(,,,)nX X X θθ= 为未知参数θ的估计量，如果 θ依概率收敛于θ，即对任意0ε>，有{}1{}0n n l im P l im P θθεθθε→+∞→+∞-<=⇔-≥= 即P θθ→⋅则称 θ为θ的（弱）相合估计量（一致性估计量）.概率论与数理统计 第6章 参数估计 1（第1、2节 点估计）估计量的评选标准一、点估计概述 1、参数估计2、点估计的概念（估计量与估计值） 二、估计量的评选标准 1、无偏性 2、有效性3、相合性（一致性）一、点估计概述1、参数估计2、点估计的概念（估计量与估计值）设12(,,,)n X X X 是取自总体X 的样本，其观测值为12(,,,)n x x x ，θ是总体X 的未知参数，参数的点估计就是构造一个统计量12(,,,)nX X X θ随机变量 去估计未知参数θ；以其观测值12(,,,)nx x x θ数值 来估计θ的真值.二、估计量的评选标准1、无偏性 P147定义1设 12(,,,)n X X X θθ= 为未知参数θ的估计量，如果 E θθ= 则称 θ是θ的无偏估计量；否则，称 θ是θ的有偏估计量.如果 n lim E θθ→+∞= 则称 θ是θ的渐进无偏估计量. 定理1 (P147)设12,,,n X X X 为取自总体X 的样本,总体X 的均值为μ, 方差为2σ.则(1) 样本均值X 是μ的无偏估计量;(2) 样本方差2211()1n i i SX X n ==--∑是2σ的无偏估计量; (3) 样本二阶中心矩2211()ni i B X X n ==-∑是2σ的有偏估计量.2、有效性 P149定义2设 1112(,,,)n X X X θθ= 与 2212(,,,)n X X X θθ= 为未知参数θ的两个无偏估计量，如果12D D θθ< 则称1θ∧较2θ∧有效.3、相合性（一致性） P151定义3设 12(,,,)n X X X θθ= 为未知参数θ的估计量，如果 θ依概率收敛于θ，即对任意0ε>，有{}1{}0n n l im P l im P θθεθθε→+∞→+∞-<=⇔-≥= 即P θθ→⋅则称 θ为θ的（弱）相合估计量（一致性估计量）.【补例6.1.1】证明P147定理1，即设12(,,,)n X X X 是取自总体X 的样本，总体X 的均值()E X μ=，方差2()D X σ=，则（1）样本均值11ni i X X n ==∑是总体均值()E X μ=的无偏估计量；（2）样本方差2211()1ni S X X n i ==--∑是总体方差2()D X σ=的无偏估计量； （3）样本二阶中心矩2211()n i i B X X n ==-∑是总体方差2()D X σ=的有偏估计量，但它是总体方差2()D X σ=的渐进无偏估计量.【提示】 P147定义1设 12(,,,)n X X X θθ= 为未知参数θ的估计量，如果 E θθ= 则称 θ是θ的无偏估计量；否则，称 θ是θ的有偏估计量.如果 n lim E θθ→+∞= 则称 θ是θ的渐进无偏估计量. 样本方差的简算公式 2211()1n i S X X n i ==--∑ 2211[()]1n i i X n X n ==--∑ ………… ① 总体方差的简算公式 22()D X E X E X =- ………………… ②⇒22()E X D X E X =+ ………………… ③【证明】注意到，样本12,,,n X X X 相互独立且与总体X 同分布，故i E X E X =μ=i D X D X =2σ=11()n i i X E n =∑11()ni i X E n ==∑11n i i E X n ==∑11ni n μ==∑1n n μ=μ=11()n i i X D n =∑121()ni i X D n ==∑121n i i D X n ==∑1221ni n σ==∑21n nσ=（1因11()n i i X E n =∑11()ni i X E n ==∑11n i i E X n ==∑11ni n μ==∑1n n μ=μ=（2因2E S 2211{[()]}1n i i E X n X n ==--∑ （ 由①式 ） 2211{[()]}1n i i E X n X n ==--∑ 2211{[()]}1n i i E X n X n ==--∑ 2211{()[()]}1n i i E X n E X n ==--∑ 2211{()[()]}1n i i E X n E X n ==--∑ （ 由③式 ） 2211{[()()][()()]}1n i i i D X E X n D X E X n ==+-+-∑222211{[][]}1n i n n nσσμμ==+-+-∑ 22221{[][]}1n n n σμσμ=+-+- 22221{}1n n n n σμσμ=+---221{}1n n σσ=-- 21(1)1n n σ=--2σ= 故由P147定义1知，该结论成立，即记为22211()1ni SX X n i σ∧===--∑ （3计量，但它是总体方差2()D X σ=的渐进无偏估计量因2E B 211[()]n i E X X n i ==-∑2111[()]1n i n E X X n n i =-=--∑ 21[]n E S n -=21()n E S n -=21n nσ-= 2σ≠ （由（2）知） 故2n l im E B →+∞211[()]nn i l im E X X n i →+∞==-∑21n n l im n σ→+∞-=2σ=故估计量.【补例6.1.2】设12(,,,)n X X X 是取自总体X 的样本，总体X 的均值()E X μ=，方差2()D X σ=，对任意常数i a （ 1,2,,i n = ），且11ni i a ==∑，试证：（1）μ∧1ni i i a X ==∑均是μ的无偏估计；（2）当1i a n =（ 1,2,,i n = ）时，μ∧1n i i i a X ==∑11ni i X X n ===∑是μ的有效估计.【提示】P147定义1设 12(,,,)n X X X θθ= 为未知参数θ的估计量，如果 E θθ= 则称 θ是θ的无偏估计量；否则，称 θ是θ的有偏估计量.如果 n lim E θθ→+∞= 则称 θ是θ的渐进无偏估计量. P149定义2设 1112(,,,)n X X X θθ= 与 2212(,,,)n X X X θθ= 为未知参数θ的两个无偏估计量，如果12D D θθ< 则称1θ∧较2θ∧有效.样本方差的简算公式 2211()1n i S X X n i ==--∑ 2211[()]1n i i X n X n ==--∑ ………… ① 总体方差的简算公式 22()D X E X E X =- ………………… ②⇒22()E X D X E X =+ ………………… ③【证明】注意到，样本1X 、2X 、… 、n X 相互独立且与总体X 同分布，故i E X E X =μ= i D X D X =2σ=11()n i i X E n =∑11()ni i X E n ==∑11n i i E X n ==∑11ni n μ==∑1n n μ=μ=11()n i i X D n =∑121()ni i X D n ==∑121n i i D X n ==∑1221ni n σ==∑21n nσ=（1）μ∧1ni i i a X ==∑均是μ的无偏估计 因E μ∧1()n i i i E a X ==∑1()n i i i E a X ==∑1()n i i i a E X ==∑1n i i a μ==∑1ni i a μ==∑1μ=⨯μ=故，μ∧1ni i i a X ==∑均是μ的无偏估计 （2估计因D μ∧1()n i i i D a X ==∑21()ni i i a DX ==∑221nii a σ==∑221ni i a σ==∑ ……… ①11()n i i X D n =∑121()n i i X D n ==∑121n i i D X n ==∑1221ni n σ==∑21n nσ=…………………………………………………………… ②利用施瓦兹不等式222111()()()nnni ii ii i i x y x y ===≤⋅∑∑∑取iix a =，1iy =（ 1,2,,i n = ），得2221111()()(1)()nnn nii ii i i i a a a n ====≤⋅=⋅∑∑∑∑⇒22211111()1nn iii i a a n nn==≥=⨯=∑∑ 即211nii a n=≥∑……………………………………………………………… ③ 由①、②、③式，知D μ∧221nii a σ==∑21D X nσ≥=即注:本例说明11ni i X X n ==∑的优良性：对于任意总体X ，样本均值简记为BLUE.【§6.1 例6】（第2版课件补充）【§6.1课堂练习】【习题6-1 EX2】【习题6-1 EX4】【习题6-1 EX7】【第六章考研真题6】【第六章考研真题10】● 提示了解矩估计（一阶、二阶） 熟记求最大似然估计的一般步骤似然函数()L θ取对数后，()ln L ln L θ=一定要化简[]ln a b ln a lnb ⨯=+；alnln a lnb b=-；k lna k lna = 注：当似然方程组无解或似然函数不可微时，可利用似然函数的性质，确定其最值点，相应可求出未知参数的最大似然估计.● 辨析一、矩估计法 1、矩估计法的基本思想矩估计法的基本思想是用样本矩估计总体矩. 因为由大数定理知, 当总体的k 阶矩存在时,样本的k 阶矩依概率收敛于总体的k 阶矩.例如, 可用样本均值X 作为总体均值)(X E 的估计量, 一般地, 记总体k 阶矩 ()kk E Xμ=；样本k 阶矩 11nk k i i A X n ==∑；总体k 阶中心矩 [()]k k V E X E X =-；样本k 阶中心矩 11()nk k i i B X X n ==-∑.2、求矩估计的一般方法 了解设总体X 的分布函数12(;,,,)k F x θθθ 中含有k 个未知参数12,,,k θθθ , 则(1) 求总体X 的前k 阶矩12,,,k μμμ ，一般都是这k 个未知参数的函数, 记为12(,,,),1,2,,i i k g i k μθθθ== （*）(2) 从（*）中解得 12(,,,),1,2,,j j k h j k θμμμ== (3) 再用(1,2,,)i i k μ= 的估计量i A 分别代替上式中的i μ,即可得(1,2,,)j j k θ= 的矩估计量: 12(,,,),1,2,,j k jh A A A j k θ== 注：求12,,,k V V V 类似于上述步骤，最后用12,,,k B B B ⋅⋅⋅⋅代替12,,,k V V V ，求出矩估计(1,2,,)j j k θ= .特别地，有3、矩估计法（一阶、二阶） 了解 （1）矩估计法（一阶、二阶）的基本原则通常用样本一阶原点矩111ni i A X X n ===∑估计总体均值μ；样本二阶中心矩22221111()[()]n n i i i i B X X X n X n n ===-=-∑∑估计方差2σ.即，用样本均值 11ni i X X n ==∑估计总体均值μ；样本二阶中心矩22221111()[()]n n i i i i B X X X n X n n ===-=-∑∑估计方差2σ.（2）矩估计法（一阶、二阶）的基本步骤设12(,)θθθ=∈Θ（即1,2k =，有两个未知参数12,θθ）为总体X 的未知参数.● 总体中未知参数12(,)θθθ=∈Θ的矩估计 第1步 求出总体矩与样本矩212();()[()]E X v D X E X E X μ===- （ 含有θ ） 112112211211()1();1()()ni i ni i i ni i ni a x xn b x x n A X Xn B X X n =======-===-∑∑∑∑其观察值为其观察值为第2步 列矩估计方程组，即用样本均值估计总体均值，用样本二阶中心矩（未修正样本方差）估计总体方差 （1）一阶矩估计，矩估计方程为11A μ∧= （即1k =，有一个未知参数1θ）即11()ni i E X X X n ∧===∑（2）二阶矩估计，矩估计方程组为;1122A v B μ∧∧== （即2k =，有两个未知参数12,θθ）即21111();()()n ni i i i E X X X D X X X n n ∧∧=====-∑∑第3步 解矩估计方程组，即可得到未知参数θ的矩估计12(),,,i n MEX X X i i θθθ∧∧== （1,2i =） 估计量（含样本12,,,n X X X 的表达式）12(,,,)i i i n MEx x x θθθ∧∧⇒== （1,2i =） 估计值（含样本观察值12,,,n x x x 的表达式） ● 特别地，总体均值μ与方差2σ的矩估计二、最大似然估计法1、最大似然估计法的思想注: 最大似然估计法首先由德国数学家高斯于1821年提出, 英国统计学家费歇于1922年重新发现并作了进一步的研究.2、似然函数P155定义2设12(,,,)n X X X 是取自总体X 的一个样本，其观察值为12(,,,)n x x x ，12(,,,)r θθθθ=∈Θ （即有r 个未知参数12,,,r θθθ ）为总体X 分布的未知参数；若X 为离散型，概率分布为{}(;)P X x p x θ==，若X 为连续型，密度函数为(;)f x θ.称θ的函数11(;)()(;)n i i ni i p x X L X f x θθθ==⎧⎪⎪⎪=⎨⎪⎪⎪⎩∏∏当为离散型随机变量当为连续型随机变量为似然函数.()L θ为样本12(,,,)n X X X 取值样本观测值12(,,,)n x x x 的可能性3、最大似然估计 P155定义2选取θ的估计θ∧，使得()()L max L θθθ∧∈Θ=此时称θ∧为θ的最大似然估计.（MLE .）4、对数似然函数由于()ln L θ与()L θ有相同的最值点，即()()ln L max ln L θθθ∧∈Θ=通常称()ln L θ为对数似然函数，不加区分也简称为似然函数. 5、求最大似然估计的一般步骤第1步 利用X 的分布，求出似然函数11(;)()(;)n i i ni i p x X L X f x θθθ==⎧⎪⎪⎪=⎨⎪⎪⎪⎩∏∏当为离散型随机变量当为连续型随机变量取对数并化简，得()ln L ln L θ=第2步 当()ln L ln L θ=关于θ可微时，建立似然方程组0iln Lθ∂=∂ （1,2,,i r = ） — 若只有一个未知参数θ，即1r =时，似然方程为0d ln Ld θ= 第3步 求似然解方程组确定()ln L ln L θ=的最大值点MLE θθ∧∧=，通常似然方程组的解就是最值点，MLE θθ∧∧=即为未知参数θ的最大似然估计.特别地，当似然方程组无解或似解函数不可微时，可利用似然函数的性质，确定其最值点，相应可求出未知参数的最大似然估计.注: 因函数ln L 是L 的单调增加函数,且函数()ln L θ与函数()L θ有相同的极值点,故常转化为求函数()ln L θ的最大值点较方便. 6、最大似然估计的不变性如果θ∧是θ的最大似然估计，()g μθ=是θ的函数且存在单值反函数，则()g μθ∧∧=是()g μθ=的最大似然估计.可推广到有限多个参数的情形概率论与数理统计 第6章 参数估计 1（第1、2节 点估计）点估计的常用方法一、矩估计法二、最大似然估计法一、矩估计法矩估计法（一阶、二阶） 了解 （1）矩估计法（一阶、二阶）的基本原则通常用样本一阶原点矩111ni i A X X n ===∑估计总体均值μ；样本二阶中心矩22221111()[()]n n i i i i B X X X n X n n ===-=-∑∑估计方差2σ.即，用样本均值 11ni i X X n ==∑估计总体均值μ；样本二阶中心矩22221111()[()]n n i i i i B X X X n X n n ===-=-∑∑估计方差2σ.（2）矩估计法（一阶、二阶）的基本步骤设12(,)θθθ=∈Θ（即1,2k =，有两个未知参数12,θθ）为总体X 的未知参数.总体中未知参数12(,)θθθ=∈Θ的矩估计 第1步 求出总体矩与样本矩212();()[()]E X v D X E X E X μ===- （ 含有θ ） 112112211211()1();1()()ni i ni i i ni i ni a x xn b x x n A X Xn B X X n =======-===-∑∑∑∑其观察值为其观察值为第2步 列矩估计方程组，即用样本均值估计总体均值，用样本二阶中心矩（未修正样本方差）估计总体方差 （1）一阶矩估计，矩估计方程为11A μ∧= （即1k =，有一个未知参数1θ）即11()ni i E X X X n ∧===∑（2）二阶矩估计，矩估计方程组为;1122A v B μ∧∧== （即2k =，有两个未知参数12,θθ）即21111();()()n ni i i i E X X X D X X X n n ∧∧=====-∑∑第3步 解矩估计方程组，即可得到未知参数θ的矩估计12(),,,i n MEX X X i i θθθ∧∧== （1,2i =） 估计量（含样本12,,,n X X X 的表达式）12(,,,)i i i n MEx x x θθθ∧∧⇒== （1,2i =） 估计值（含样本观察值12,,,n x x x 的表达式） 特别地，总体均值μ与方差2σ的矩估计二、最大似然估计法求最大似然估计的一般步骤 第1步 利用X 的分布，求出似然函数11(;)()(;)n i i ni i p x X L X f x θθθ==⎧⎪⎪⎪=⎨⎪⎪⎪⎩∏∏当为离散型随机变量当为连续型随机变量取对数并化简，得()ln L ln L θ=第2步 当()ln L ln L θ=关于θ可微时，建立似然方程组0iln Lθ∂=∂ （1,2,,i r = ） — 若只有一个未知参数θ，即1r =时，似然方程为0d ln Ld θ= 第3步 求似然解方程组确定()ln L ln L θ=的最大值点MLE θθ∧∧=，通常似然方程组的解就是最值点，MLE θθ∧∧=即为未知参数θ的最大似然估计.特别地，当似然方程组无解或似解函数不可微时，可利用似然函数的性质，确定其最值点，相应可求出未知参数的最大似然估计.注: 因函数ln L 是L 的单调增加函数,且函数()ln L θ与函数()L θ有相同的极值点,故常转化为求函数()ln L θ的最大值点较方便.【补例6.1.3】设总体X 的分布如下，12(,,,)n X X X 是取自总体X 的一个样本，其观察值为12(,,,)n x x x ，求未知参数的最大似然估计值： （1）X 服从参数为p （0p <<1，p 未知）的“01-”分布； （2）X 服从参数为p （0p <<1，p 未知）的几何分布； （3）X 服从参数为λ（0λ>，λ未知）的泊松（Poisson ）分布.【提示】 最大似然估计法（离散型）的基本步骤X 的分布律为{}P X k ==⇒ X 在样本12,,,n x x x 处取值的概率为(,){}k k p x P X x θ== （θ为未知参数） 作似然函数：1212()(,,,;)(,)(,)(,)n n L L x x x p x p x p x θθθθθ== 取对数并化简：()ln L θ=⋅⋅⋅似然方程：0d ln L d θ=令解出：MLE θθ∧∧= = （含样本观察值12,,,n x x x 的表达式） （估计值）⇒MLE θθ∧∧= = （含样本12,,,n X X X 的表达式） （估计量） 【解】利用最大似然估计法（离散型）（1）X 服从参数为p （0p <<1，p 未知）的“01-”分布⇒ X 的分布律为1{}k k P X k p q -== （ 1q p =-，0,1k = ）⇒ X 在样本12,,,n x x x 处取值的概率为。

第六章点估计1. 本章重点概括本章要求学生正确理解参数点估计的概念。

掌握矩估计法，明确其实质是用样本矩来替换总体矩，即皮尔逊替换原则。

掌握极大似然估计法，明确其基本思想是选取估计量，使得该样本发生的可能性最大，能熟练地求出某些常见分布中未知参数的极大似然估计量。

掌握关于判别估计量优良性的一致性、无偏性、有效性这三个准则，并能熟练地加以运用。

掌握罗-克拉美(Rao-Cramer)不等式的条件、结论，能求一些常见分布中未知参数的无偏估计量之方差的罗-克拉美下界，会求一些常见分布中未知参数的有效估计，或会证明某∧θ是θ的有效估计。

掌握充分统计量的概念和奈曼(Neyman)因子分解定理，并会加以应用。

点估计方法一般有两种，一种为矩估计法，一种为极大似然估计法。

矩估计法比较直观，对任何总体都适用，方法简单，但需要保证总体的相应的矩存在，若不存在就不能用矩估计的方法。

而极大似然估计对任何总体也都适用，从它得到估计量一般有有效性，并且常常具有无偏性，即使不具有无偏性，也可以修正偏差使估计值与待估计参数的真实值充分接近。

极大似然估计法的缺点是往往要解一个似然方程，而这个方程在有些情况下是很难解的。

在分析估计量的好坏时，应首先考虑一致性，即看估计量是否依概率收敛于所估计的参数，不具备一致性的估计量我们一般是不予考虑的。

估计量是一个随机变量，对于不同的样本值，一般给出参数不同的估计值，因而在考虑估计量的优劣时，应该从某种整体性能去衡量，而不能看它在个别样本之下表现如何。

一般来说，矩估计和极大似然估计都不一定是无偏估计。

无偏估计要111112求估计量的数学期望等于待估参数，但无偏估计不一定是有效估计，如正态总体期望的估计量∑==ni ii Xk 1ˆμ，其中∑==ni ik11是无偏估计，但只有当n n nk i ,,2,1,1==时，μˆ才是有效估计。

由于统计量很多，那么怎样的统计量才是最佳的呢？直观的想法是，一方面要尽可能的简单，另一方面又要能提供样本所含的“全部信息”，由此引出了充分统计量的定义。

点估计的例子(一)点估计：介绍和概念•点估计是统计学中一种基本的参数估计方法，用来估计总体参数的具体数值。

•点估计的目标是通过从一个样本中获得的信息，对总体参数进行估计，得到一个单一的数值作为估计值。

最大似然估计(Maximum Likelihood Estimation, MLE)•最大似然估计是一种常用的点估计方法，在模型中通常假设总体的分布，并通过最大化样本观测值出现的概率来估计参数。

•例如，假设我们从一个服从正态分布的总体中抽取了一个样本，并想要估计该总体的均值。

我们可以使用最大似然估计来估计均值的值，使得样本中观测值出现的概率最大化。

•最大似然估计的计算通常需要基于样本观测值的对数似然函数，通过构造似然函数的导数为0的方程，解得参数的估计值。

矩估计(Method of Moments)•矩估计是另一种常用的点估计方法，它基于样本矩和总体矩之间的对应关系进行参数估计。

•例如，假设我们从一个柏松分布的总体中抽取了一个样本，并希望估计该总体的参数λ。

我们可以使用矩估计来估计λ的值，通过令样本的均值等于总体均值来解得参数的估计值。

•矩估计方法常用于没有明确分布假设的情况下，通过基于样本的高阶矩来估计总体参数。

无偏估计(Unbiased Estimation)•无偏估计是指估计值的期望等于被估计参数的真实值。

•例如，对于均值参数的估计，如果估计值的期望等于总体均值，则可以称之为无偏估计。

•无偏估计的性质较好，尤其对于大样本的情况下，它们通常具有较小的方差。

一致性估计(Consistent Estimation)•一致性估计是指当样本大小趋于无穷时，估计值以概率的意义收敛于被估计参数的真实值。

•例如，如果估计值在样本大小增加时趋近于真实参数值，则可以称之为一致性估计。

•一致性估计在大样本情况下通常是具有较好性质的，因为它们可以有效地捕捉到总体分布的特征。

总结点估计是统计学中一种基本的参数估计方法，通过从样本中获得的信息，得到一个单一的数值作为总体参数的估计值。

参数的点估计及区间估计1.点估计点估计是通过样本数据得出一个单一的数值作为参数的估计值。

常见的点估计方法有最大似然估计、矩估计等。

最大似然估计是通过寻找参数值，使得给定样本出现的可能性最大化，从而估计参数的值。

矩估计则是通过样本矩的估计值来估计参数的值。

点估计的优点是简单直观，计算方便，但它只给出了一个数值，无法反映参数估计的准确程度。

2.区间估计区间估计是通过样本数据得出一个区间，该区间内的值有一定概率包含着未知参数的真实值。

常见的区间估计方法有置信区间、预测区间等。

置信区间是通过样本数据得出一个区间，该区间内的值有一定程度的置信度来包含着未知参数的真实值。

预测区间是通过样本数据得出一个区间，该区间内的值有一定程度的置信度来包含着新的观测值。

区间估计的优点是可以反映参数估计的不确定性，给出了一个范围，但计算复杂，要求样本量较大。

对于点估计和区间估计，我们需要考虑一些概念和原则：1.无偏性：一个点估计量如果在大样本下的期望等于被估计参数的真实值，则称其为无偏估计量。

无偏估计量估计的是总体参数的中心值。

2.有效性：如果两个估计量都是无偏估计量，但一个估计量的方差较小，则称这个估计量为有效估计量。

3.一致性：一个估计量如果在样本量趋向于无穷大时，以概率1收敛于被估计参数的真实值，则称该估计量为一致估计量。

4.置信水平：置信区间是估计参数范围的一种方法，置信水平是指在重复抽样条件下，这个估计参数范围包含真实参数的概率。

总结起来，点估计提供了一个单一的参数估计值，简单直观，但没有反映参数估计的准确程度；区间估计提供了一个范围，可以反映参数估计的不确定性，但计算较复杂。

在实际应用中，可以根据问题的具体要求选择适当的估计方法，或者同时使用点估计和区间估计方法来对参数进行估计。