陈家鼎数理统计学讲义第二章答案

=
−
n 2δ
, Xn; µ, δ) = (
+
∑(Xi−µ)2 2σ2
=
√1 2πδ
0.
)n
e−
∑(Xi −µ)2 2σ2
.
δ
=
∑ (Xi
−µ)2
n
=
S02
, 即 S02
为最大似然估计.
12. 设 X1, X2, · · · , Xn 是来自下列 Γ(α，β) 的样本:
f (x; α, β)
=
βα Γ(α)
f (x; θ1, θ2)
=
e 1 −θ2
θ2
0,
,
x ≤ θ1 x < θ1
其中 θ1 ∈ (−∞, +∞) , θ2 ∈ (0, +∞), 试求出 θ1 和 θ2 的最大似然估计.
解:
∑n
L(X1,
·
·
·
, Xn; θ1,
θ2)
=
Xi −nθ1
( 1 ) en − i=1 θ2 θ2
∑n
= ( 1 ) en
9
X(2) ≤ · · · ≤ X(n) 是 X1, X2, · · · , Xn 的次序统计量.证明：
(1) 对一切 1 ≤ i ≤ n 有
P (X(i)
≤
x)
=
n! (i−1)!(n−i)!
∫F
0
(x)
ui−1
(1
−
u)n−i
du
证明:
对于任意实数 x, 考虑次序统计量 x(i) 取值落在区间 (x, x + ∆x] 内这一事件. 它等价于“样本容量为n的样本中有1个观测值落在区间区间 (x, x + ∆x] 中,
试求 θ2 的无偏估计.
解:
令 φ(X1, · · · , Xn) 是 θ2 的无偏估计，则应该有 Eθ2φ = θ2.
显然, 由矩估计得
EX
=
1 n
∑n
Xi
=
mθ
i=1
EX2
=
1 n
∑n Xi2
=
mθ(1 − θ)
+ m2θ2
i=1
解得
θ2
=
1 n(m2−m)
∑n (Xi2
−
Xi)
=
1 m2−m
E
=
(
1
∑n
) e . n
|Xi |
−
i=1 σ
2σ
对其对数处理，得
∑n
|Xi|
ln L(σ)
=
n ln
1 2σ
−
i=1
σ
求导数为 0 的值
∑n
∂ ln L(σ) ∂σ
=
−
n σ
−
|Xi|
i=1
σ2
=
0
得到
∑n
|Xi|
σ
=
i=1
n
验证二阶导数
∑n
|Xi|
在σ
=
i=1
n
时
∑n
= − − 2 ∂2 ln L(σ)
令
y 2
=
x
那么
2x
=
y
dy = 2dx
Eσˆ
= =
1σ
(√σ2)n∫Γ∞( n2 )
Γ(
n 2
)
0
x
∫∞ n (2x) 2 0
n 2
−1
e−x
dx
−1
e−
2x 2
2dx
σn
=
Γ(
n 2
)
Γ(
2
)
=σ
即 Eσˆ = σ，故最大似然估计 σˆ 是 σ 的无偏估计.
8
24. 设X1, X2, · · · , Xn 是Bernoulli 分布 b(1, p) 的样本，试根据中心极限
Xi i=1
n
Xi
1−
i=1 n
n
∑n
Xi
, i=1
n
+ z1−α
Xi
Xi
i=1 n
1−
i=1 n
n
.
25. 设 X1, X2, · · · , Xn 为 N (µ, σ2) 分布的样本，证明样本方差
S2
=
1 n−1
∑n (Xi
−
X¯ )2
i=1
的方差为
证明:
V
ar(S2)
=
2σ4 n−1
(n
≥
2).
(X
2)
−
Eσ2
(X¯
2)
1
V (
arσ2 (X )
+
(Eσ X )2 1
−
V arσ2(X¯ ) )
−
] (Eσ2X¯ )2
= n−1
V
arσ2 (X )
−
V n
arσ2 (X )
= V arσ2(X)
故 S12 是无偏估计.
(3)
令
σ2
=
δ,
则有似然函数 L(X1, . . .
令
∂ ln L ∂δ
7
∑
∑
EX = λ =
Xi n
EX2 = λ2 + λ =
Xi n
故相减得到最大似然估计
λˆ2
=
1 n
∑n (Xi2
−
Xi)
即为
λ2
的无偏估计.
i=1
16.
设
X1, X2, · · ·
, Xn σˆ
是= 来√12自ΓΓ(正n( −n22 态1) ) √总i∑体=n1(NX(i µ−,
σ2 X¯
) 的样本，试证明 )2
因此当θ ∈ [minXi, maxXi − 1]时, 均为其最大似然估计值.
由于样本均值是期望的无偏估计, 现要求 θ 的无偏估计, 可以从均值 X¯ 入手:
EX
=
∫ θ+1
θ
xdx
=
θ
+
1 2
得到
θ
的无偏估计为
θˆ
=
X¯
−
1 2
其中
X¯
=
∑n
Xi.
i=1
6. 设X1, X2, · · · , Xn 是来自下列两参数指数分布的样本:
求解对 p 的二次方程
(
µn n
−
p)2
＝zβ2
p(1−p) n
并略去
1 n
的高{阶无穷小√项得:
√
}
P
µn n
− zβ
µn n
(1−
µn n
)
n
<
p
<
µn n
+ zβ
µn n
(1−
µn n
)
n
=β
即得置信水平近似为√1
−
∑n
α= (
β 的置信区间 ) ∑n
√ ∑n
(
∑n
)
∑n Xi
i=1
n
− z1−α
∂σ2
|Xi|
n
i=1
σ2
σ3
∂2 ln L(σ) ∂σ2
=
− n2
∑n |Xi|
<
0
i=1
因此为极大值，即为 σ 的最大似然估计.
3. 设 X1, X2, · · · , Xn 是来自 [θ, θ + 1] 上均匀分布的样本，其中−∞ <
θ < +∞. 试证明 θ 的最大似然估计不止一个. 你能求出 θ 的全部最大似然估
设其一阶矩为 V , 那么
∫1 V = EX = xf (x, θ)dx
=
0
Γ(θ + 1)
∫
1
xθdx
Γ(θ)Γ(1) 0
Γ(θ + 1) 1 =
Γ(θ)Γ(1) θ + 1
θ =
θ+1
由于样本均值是期望的无偏估计，故
∑n
Xi
得到 θ =
i=1
∑n
.
n− Xi
i=1
V
=
1 n
∑n
Xi
=
θ θ+1
i=1
q(∏n1
Xi,
Hale Waihona Puke Baidu
∑n
1
Xi;
h(X1, . . . ,
αX,nβ))==∏( Γn1β(ααI)(0),n+(∞∏)(n1XXi)i)α−1e−β
∑n
1
Xi
∏n ∑n
故( Xi, Xi) 是 (α, β) 的充分统计量.
i=1 i=1
14. 设 X1, X2, · · · , Xn 是来自下列二项分布的样本： P (X = k) = (mk )θk(1 − θ)m−k, k = 0, 1, · · · , m
令Y
=
(n−1)S2 σ2
=
∑n (Xi−X¯ )2
i=1
σ2
，故 Y
∼ χ2(n − 1) (n ≥ 2)
V ar(Y )
=
2(n − 1)
=
V
ar[
(n−1)S2 σ2
]
=
(n−1)2 σ4
V
ar(S
2
)
因此得到V
ar(S2)
=
2σ4 n−1
(n
≥
2).
26. 设 X1, X2, · · · , Xn 独立同分布，共同的分布函数是 F (x) , X(1) ≤
= pn(1 − p)n(k−1)
为计算简便，对似然函数做对数运算
ln L(p) = n ln p + n(k − 1) ln(1 − p)
求导数，导数值为 0 时，达到极值,
解得
∂ ln L(p) ∂p
=
n p
−
n(k−1) ln(1−p)
=
0
p
=
1 k
.
求二阶导数在
p
=
1 k
的值
∂2 ln L(p) ∂p2
−
Xi i=1
θ2
+
nθ1 θ2
θ2
lnL(θ1,
θ2)
=
−nlnθ2
−
1 θ2
∑n (
i=1
−nθ1)
∂ ln L(θ1,θ2) ∂θ2
=
∂ ln L(θ1 ∂θ1
−
n θ2
+
,θ2)
1 θ2 2
=∑n θn2 ( Xi
i=1
− nθ1)
=
0
θ1
+
θ2
=
1 n
∑n (
Xi)
i=1
可见, θ1 越大, 则 L 越大.但要同时满足 θ1 ≤ x, 因此最大似然估计为
11. 设 X1, X2, · · · , Xn 为 N (µ, σ2) 分布的样本，参数 µ, σ2 未知 (−∞ < µ < ∞, σ2 > 0)，令
S02
=
1 n
∑n (Xi
−
X¯ )2
i=1
S12
=
n
1 −
1
∑n (Xi
−
X¯ )2
i=1
4
证明对所有可能的 µ 和 σ2 的值，作为 σ2 的估计，S02 的均方误差比 S12 的 均方误差都小，即 S02 比 S12 有效；但 S12 是无偏估计但 S02 不是；S02 是最大 似然估计. 证明: (1) 设 S02 的均方误差是 M0，设 S12 的均方误差是 M1.
xα−1
e−βx
0,
,
x>0 x≤0
6
∏n ∑n 其中 α > 0，β > 0 未知，证明 ( Xi, Xi) 是 (α, β) 的充分统计量.
i=1 i=1
证明:
似然函数
L(X1, ·
·
·
,
Xn;
α, β)
=
(
βα Γ(α)
)n
(∏n1
Xi)α−1e−β
∑n
1
Xi
∏n
1
I(0,+∞)(Xi).
记
M0 = E(S02 − σ2)2
= E(S02 − ES02 + ES02 − σ2)2
= V arS02 + (biasS02)2
=
V
[ ar
1 n
∑n (Xi
−
] X¯ )2
+
(biasS02)2
i=1
M1 = E(S12 − σ2)2
= V arS12
=
V
[ ar
n
1 −
1
∑n (Xi
−
] X¯ )2
=
−
1 p2
−
n(k−1) (1−p)2
<
0
因此
p
=
1 k
为极大值，即为
p
的最大似然估计.
2. 设 X 的分布密度是
f (x)
=
e 1
−
1 σ
|x|
2σ
(σ > 0)
X1, X2, · · · , Xn 是 X 的样本，试求 σ 的最大似然估计.
解:
∏
L(X1, X2, · · · , Xn) = P (Xi; σ)
V
arZ
=
2 n−1
,
故 M0 − M1 = [V arY − V arZ]σ4 + (biasS02)2，其中
biasS02
=
E(S02
−
σ2)2
=
E
(
n−1 n
σ2
−
σ2)2
=
σ4 n2
.
5
M0
−
M1
=
[2(n − n2
1)
−
n
2 −
] σ4 1
+
σ4 n2
= σ4 −3n + 1 < 0 n2(n − 1)
(X
2
−
X)
i=1
故
φ(X1, · · ·
, Xn)
=
1 n(m2−m)
∑n (Xi2
−
Xi)
即为
θ2
得无偏估计.
i=1
15. 设 X1, X2, · · · , Xn 是来自参数为 λ 的 Poisson 分布的样本，试求 λ2 的无偏估计. 解: 由于样本均值是期望的无偏估计, 并且有 Xi ∼ P (λ), 故得到
∑n
θˆ1 = minXi,
θˆ2
=
Xi
i=1
n
−
minXi
i = 1, 2, · · · , n.
3
9. 设X1, X2, · · · , Xn 是来自下列分布密度的样本:
f (x; θ) =
Γ(θ+1) Γ(θ)Γ(1)
xθ−1
0,
,
x ∈ [0, 1] 其他
其中 θ ∈ (0, +∞). 试用矩法估计θ. 解:
故 M02 < M12，即 S02 比 S12 更有效.
(2)
Eσ2 S12
=
n
1 −
[ ∑n
1 Eσ2
(Xi
−
] X¯ )2
i=1
=
n
1 −
[ ∑n
1 Eσ2
(Xi2
+
X¯ 2
−
] 2XiX¯ )
i=1
=
n
1 −
( ∑n
1 Eσ2
Xi2
−
) nX¯ 2
= =
n n
n
− n
− n
[
i=1
]
1
Eσ2 [
计吗?你能求出 θ的无偏估计吗?
解:
1 θ ≤ x ≤ θ + 1
f (x; θ) = 0 其他
求得似然函数为
2
L(X1, · · · , Xn; θ) = 1n ∏n I[θ,θ+1](Xi)
i=1
要求其最大值，即 Xi ∈ [θ, θ + 1]
θ 的最大似然估计值 θˆ 应满足
θˆ ≤ minXi 且 θˆ + 1 ≥ maxXi
定理构造 n 值较大时 p 的近似 1 − α 置信水平的置信区间.
解:
∑n 由题目Xi ∼ b(1, p), 因此 µn = Xi ∼ B(n, p). 当 n充分大的时候，由中心
i=1
极限定理，有
{
}
P
< z = β µn
√n
−p
p(1−p)
β
n
其中 β = 1 − α, zβ 满足 2Φ(zβ) − 1 = β.
是 σ 的无偏估计.
解:
令Y
=
1 σ2
∑n (Xi
−
X¯
)2
则有
Y
∼ χ2(n − 1).
i=1
Eσˆ
=
[ E
√1
2
Γ(
n−1 2
Γ(
n 2
)
)
√ Y
] σ
= = =
√√(√112212ΓΓ)ΓΓn((((nnΓ−−nn2222(σ11))n2)))σσ∫E∫00(∞√∞yYyn212)−2y1nen−2−−211y2Γ−d(1yne−−2 1y2) dy
第二章 估计
兰州大学 数学与统计学院 2012级 来耀华 lyhjj138@sina.com
1. 设 X 服从几何分布
P (X = k) = p(1 − p)k−1, k = 1, 2, · · ·
X1, X2, · · · , Xn是 X 的简单随机样本，试找出 p 的最大似然估计.
解:
∏
L(X1, X2, · · · , Xn) = P (Xi = k)
i=1
令 nY
=
1 σ2
∑n (Xi
−
X¯ )2，故
nY
∼ χ2(n − 1),
i=1
令
(n
−
1)Z
=
1 σ2
∑n (Xi
−
X¯ )2，故
(n
−
1)Z
∼
χ2(n
−
1)
i=1
那么就有
V ar(nY ) = n2V arY = 2(n − 1)
V arY
=
2(n−1) n2
,
V ar[(n − 1)Z] = (n − 1)2V arZ = 2(n − 1)