参数估计习题解答

习题与习题解答6.1

1．从一批电子元件中抽取8个进行寿命测试，得到如下数据(单位：h）:

1 050, 1 100， 1 130, 1 040， 1 250， 1 300， 1 200， 1 080

试对这批元件的平均寿命以及分布的标准差给出矩估计。

解：样本均值 x1050110113010801143.75

818样本标准差 s(xix)2 7i11(10501143.75)2(10801143.75)296.0562 7因此,元件的平均寿命和寿命分布的标准差的矩估计分别为1143。75和96.0562

2． 设总体X~U(0,)，现从该总体中抽取容量为10的样本，样本值为

0。5,1.3,0。6，1.7，2.2，1.2，0。8,1。5，2.0,1.6

试对参数给出矩估计.

解：由于E(X）=2,即=2E(X),而样本均值x0.51.31.6=1.34，故的矩

10ˆ2x2.68 估计为3． 设总体分布列如下,x1,xn是样本，试求未知参数的矩估计

1,k0,1,2,,N1,N（正整数）是未知参数； N(2)P(Xk)(k1)2(1)k2,k2,3,,01.(1)P(Xk)解：（1) 总体均值E（X)=

01N1N1，解之可得N=2E（X)+1

N2ˆ2x1，其中x为样本均值，若2x不是整数，可取大于2x的最小整故N的矩估计量N数代替2x.

（2) 总体均值E（X)=

k(k1)k22(1)k22k(k1)(1)k2k2，由于

k(k1)(1)k2k223,

故有E(X）2232,即2ˆ2. ,从而参数的  矩估计为E(X)x4．设总体密度函数如下，x1,,xn是样本,试求未知参数的矩估计

(1)p(x;)(x),0x,0;2(2)p(x;)(1)x,0x1,0;(3)p(x;)x(4)p(x;,)112,0x1,0;,x,0.

xe解：（1) 总体均值E（X）=

20x(x)dx22201即即3E(X),(xx2)dx，3ˆ3x. 故参数的矩估计为(2)总体均值E(X）=

10x(1)xdx=

12E(X)1,所以，从而参数的矩估计

E(X)12ˆ12x. x1E(X)1dx=（3)由E（X)=xx可得1E(X)，由此,参数的矩估计0112xˆ.

1x(4)先计算总体均值与方差

E（X）=

xtt2xe1dx=tedt+0110edt=

E(X)==

2xt2211exdx=(t)021tedt

220edt+2tedt+0t1t10edt=2222.

t2Var(X)=E(X)(E(X))=

2由此可以推出Var(X),E(X)Var(X),从而参数,的矩估计为

ˆxs. ˆs,5．设总体为N(,1)，先对该总体观测n次,发现有k次观测为正，使用频率替换方法

求的矩估计。

解：由题意知，观测为正的频率f=

k，下面计算观测值为正的概率。当总体为N(,1）n时，P(X〉0)=1-P(X〈0）=1—P（X—<—)=()其中为标准正态分布的分布函数。

ˆ)利用频率替换概率的方法有(譬如，若设得

kkˆ1uk ,这给出参数的矩估计为nnnkˆ是标准正态分布的分布的0。281分位数，查表=0。281，则由上式知nˆu0.281=—0。58 6．甲、乙两个校对员彼此对同一本书的样稿进行校对,校完后,甲发现a个错字,乙发现b个错字,其同发现的错字有c个，试用矩法给出如下两个未知参数的估计： （1） 该书样稿的总错字个数； （2） 未被发现的错字数。

解 (1）设该书样稿中总错字的个数为，甲校对员识别出错字的概率为p1，乙校对员识别出错字的概率为p2,由于甲,乙是彼此地进行校对，则同一错字能被识别的概率为

ˆ1p1p2，根据频率替换思想有 paˆ2,pb,由性可得矩法方程

abc,解之得

ˆab。 c（2） 未被发现的错字估计等于总错字数的估计减去甲，乙发现的错字数,即

ababc. cˆ譬如，若设a=120,b=124，c=80,则该书样稿中错字总数的矩法估计而未被发现的错字个数的矩法估计为186—120—124+80=22个。

7．设总体概率函数如下,x1,,xn是样本，试求未知参数得最大似然估计。 （1）p(x;)120124186,

80x1,0x1,0;

,xc,c0已知，>1

n（2）p(x;)cx(1)解 （1)似然函数为L（）（）(x1,,xn)1，其对数似然函数为

lnL()nln(1)(lnx12lnxn)

将lnL()关于求导并令其为0即得到似然方程

lnL()n(lnx12ˆ(1lnx)2 解之得 ini1由于

nlnxn)120

2lnL()nlnxi(lnx)4n222432i3ˆˆ40

ˆ是 的最大似然估计. 所以nn（2）似然函数为L()c(x1xn)(1),其对数似然函数为

lnL()nlnnlnc(1)(lnx1解之可得

lnxn)

1ˆ(LnxiInc)1

ni1n2InL()n20，这说明ˆ是的最大似然估计。 由于

8．设总体概率函数如下,x1,,xn是样本，试求未知参数的最大似然估计. （1)p(x;)cx（2p(x;,)c(c1),x,0,c0已知；

1ex,x,0;

1(3）p(x;)(k)(k),x(k1),0 解：(1)样本x1,,xn的似然函数为

L()cnnc(x1xn)(c1)Ixnc(1)}

nc要使L()达到最大,首先示性函数应为1,其次是尽可能大.由于c>0，故是的

单调增函数，所以 的取值应尽可能大,但示性函数的存在决定了 的取值不能大于x(1),由此给出的最大似然估计为x(1)

1n（2）此处的似然函数为 L()()exp(xi),x(1)

i11n其对数似然函数为 lnL(,)nln由于

(x)ii1n

lnL(,)n0

所以,lnL(,)是的单调增函数，要使其最大,的取值应该尽可能的大，由于

ˆx(1)。 x(1),这给出的最大似然估计为将lnL(,) 关于 求导并令其为0得到关于 的似然方程

(xi)lnL(,)ni120 ,

ˆ解之得 ˆ)(xii1nnnˆx(1). x（3)似然函数为

L()(k)nIx(1)x(n)(k1).

由于L(k)n是关于的单调递减函数，要使L达到最大，应尽可能小,但由x(1)x(n)(k1)可以得到

x(n)k1x(1),这说明不能小于

x(n)k1，因而的最大似然

x(n)ˆ估计为。

k19．设总体概率函数如下，x1,(1）px;,xn是样本,试求未知参数的最大似然估计。

12ex/,0;

（2）px;1,1/2x1/2； (3)px;1,21,x2.

211n1解：（1）不难写出似然函数为 L2ei1xin。

对数似然函数为 lnLnln2|x|ii1n.

n|xi|lnLni120, 将之关于求导并令其为0得到似然方程

ˆ|x|ii1n解之可得 而：

n.

2lnL()n2|xi|n222(|x|)2ˆˆi20，

ˆ是的最大似然估计 故(2) 此处的似然函数为 LI11x(1)x(n)22。

它只有两个取值：0和1,为使得似然函数取1,的取值范围应是x(n)11x(1),因而22的最大似然估计ˆ可取(x(n),x(1))中的任意值。

(3） 由条件,似然函数为

1212L1I.

(21)n1x(1)x(2)2要使L尽量大，首先示性函数应为1，这说明1x(1)x(2)2；其次21要尽量小，综上可知,1的最大似然估计应为x(1),2的最大似然估计应为x(n).

10．一地质学家为研究密歇根湖的湖滩地区的岩石成分，随机地自该地区取100个样品，每个样品有10块石子,记录了每个样品中属石灰石的石子数。假设这100次观察相互，求这地区石子中石灰石的比例的最大似然估计.该地质学家所得的数据如下

样本中的石子数 样品个数 0 0 1 1 2 6 3 7 4 23 5 26 6 21 7 12 8 3 9 1 10 0 解:本题中,总体X为样品中石灰石的个数,且X服从参数(10,p)为的二项分布,即

10x10xp(Xx)xp(1p).

又设x1,x2,,x100为样本,则其似然函数为(忽略常数)

L(p)p对数似然函数为

i1100xi10100(1p)xii1100，

lnL(p)xilnp(10100xi)ln(1p)

i1i1100100将对数似然函数关于p求导并令其为0得到似然方程

lnL(p)p解之得

i1xip10010100i1xi1p1000,

p由于

xi1100i1000

xi1000xiln2L(p)i1i10 222pp(1p)由二阶导数的性质知,p的最大似然估计为

100i11001000pxi10004990.499 100011. 在遗传学研究中经常要从截尾二项分布中抽样,其总体概率函数为

mxmnp(1p)np(Xx;p),x1,2,,m. m1(1p)若已知,m2,x1,x2,,xn是样本,试求p的最大似然估计。

解：当m=2时,该截尾二项分布只能取1与2，不妨设x1,x2,,xn的样本中有n1个xi为1,有n—n1个2则其似然函数为（忽略常数）

pn1(1p)n1p2(nn1)p2nn1(1p)n1pnn1(1p)n1L(p), 2n2nn(1(1p))(1(1p))(2p)对数似然函数为

lnL()(nn1)lnpn1ln(1p)nln(2p).

将对数似然函数关于p求导并令其为0得到似然方程

nn1nn10. p1p2p解之得

2(nn1)2(x1)p.

2nn1x后一个等式是由于

xi1nin12(nn1)nx,所以n12nnx，代入上式即得.

12．已知在文学家箫伯纳的An Intelligent Woman's Guide To Socialism 一书中，一个句子的单词数X近似地服从对数正态分布,即ZlnX~N(,)。今从该书中随机地取20个句子,这些句子中的单词数分别为

52 24 15 67 15 22 63 26 16 32 7 33 28 14 7 29 10 6 59 30

2求该书中一个句子单词数均值E(X)2e22的最大似然估计。

解：正态分布N(,)的参数的最大似然估计分别为样本均值和方差。即

1201n2ˆˆ(lnxi3.00)20.5081. lnxi3.00, 20i1ni1由于最大似然估计具有不变性，因而E(X)e22的最大似然估计为

E(X)e3.000.5081228.3053.

13．设x1,xn是来自对数级数分布

1pkP(Xk),0p1;k1,2,ln(1p)k的一个样本，求参数p的矩估计。

解：由于

1pEXkP(Xk)pk. ln(1p)k1(1p)ln(1p)k11pEXkp(Xk)kpk, 2ln(1p)k1(1p)ln(1p)k122xiEXˆ因此有1p,从而得到p的矩估计p1。 2xEX2i14．一个罐子里装有黑球个百球,有放回地抽取一个容量为n的样本,其中 有k个百球,求罐子里黑球和白球数之比R的最大似然估计.

解法1：记p为罐子中白球的比例，令xi表示第i次有放回抽样所得的白球数，则

ˆx。 xi~b(1,p),i1,2,,n,故p的最大似然估计为p因为黑球数与白球数比值Rn(1p)1p.根据最大似然估计的不变性，有 npp1p1xR，

pxnk对具体的样本值即n个抽到k个白球来讲,R的最大似然估计为R。

k解法2：设罐子里有白球l个,则有黑球Rl个，从而罐子有(1+R）l个球，从中有放回的抽一个球为白球的概率为

l1

(1R)l1R从罐子中有放回的抽 n个球，可视为从二点分布

X p 0(黑球） 1（白球） R 1Rknk1 1R中抽取一个样本容量为n的样本.当样本中有k个白球时，似然函数为

1RL(R)=1R1R其对数似然函数为

Rnk， n(1R)lnL（R)=(n-k)lnR—nln（1+R）,

将对数似然函数对R求导,并令其为0,得似然方程

nkn0 R1R解之可得R=

n1.由于其对数似然函数的二阶导数为 k2lnR(nk)n0， 222RR(1R)所以R=

n1是R的最大似然估计. k1014，即罐中黑球数与白球数之比2譬如，在n=10,k=2场合,R的最大似然估计R=

的最大似然估计为4,若白球1个，黑球为4个；或者白球2个，黑球8个等。

15.设x1,,xm和y1,,yn分别来自总体N(1,2)和N（2,2）的两个样本。

2试求(1,2,)的最大似然估计。

解:合样本的似然函数为

11n1m22L=exp(x)(y), i1i222mn2i1(2)2i1对数似然函数为

mn1n1m22ln22(xi1)2(yi2)2。 lnL=-22i12i1将对数似然函数对1,2,分别求导并令其为0，得，

2l1ˆ1lˆ1)0, (xi2i1mˆ2)0 (yiˆ2i1nl2ˆ1,ˆ2,ˆ2nmn1m22ˆˆ[(x)(y)i1i1]0, 24ˆˆi122i1由此得到1,2,2的最大似然估计为

ˆ1x ˆ2yˆ2(xx)(yy)2iii1i1mn2mn.

16．某批产品含有N件，其中M件为不合格品,现从中随机抽取n件中有x 件不合格品,则x服从超几何分布,即

MNMxnx,

P(Xx)Nnx1,2,,min(M,n)

假如N与n已知,寻求该批产品中不合格品数M的最大似然估计。

解：记未知参数M的似然函数L(M，x）=P（X=x)。考察似然比

ML(M1,x)L(M,x)L(M1,x)L(M,x)1NxMxnNnMxMx1M1NMnM1xNMx

由要使似然比

1得 ，必然导致 （M+1)(N—M-n+x)（M+1—x）(N-M)

化简此式可得Mx(Nn1)1defM0,这表明：当M0为整数和MM0时似然函数L

（M，x）是M的增函数,即

L(0,x)L(1,x)L(M0,x)L(M01,x) （)

类似地,要使似然比

L(M1,x)x1,必导致M(N1)1M0。这表明，当

L(M,x)nM0 为整数且MM0时,似然函数L（M，x)是M的减函数,即

L(M0,x)L(M0,1,x)L(M,x) ()

ˆM或M0+1，而比较(＊)和（＊ ＊）可知，当M0是整数时，M的最大似然估计为M0ˆ[M1][(N1)],其中[a]为不超过a的最当M0不为整数时,M的最大似然估计为M0大整数,综合上述，M的最大似然估计为

xnxxn(N1)1或(N1),当(N1)为整数时，xnnˆ年M

xx[(N1)]当(N1)不为整数时，nn譬如，在N=19，n=15，x=2场合.M0=

x(N1)12/5*(191)17,由于M0为n整数,故M的最大似然估计为7或8.下面以实际计算加以佐证，几个L(M，2）=Pm（x=2)如下表所示:

M 6 7 8 9 10 L(M，2） 0。36 0.3973 0。3973 0.3715 0。3251 可见M取7或8可使似然函数达到最大.

又如,在N=16,n=5，x=2场合,M0=

x2(N+1)-1=（16+1)-1=5。8(不为整数）,这时Mn5ˆ=［M0+1]=[5.8+1］=6。实际计算表明 的最大似然估计M

M 5 6 7 8 L（M,2) 0.3777 0。4121 0.4038 0.359 可见M取6可使似然函数达到最大.

§ 6。2 点估计的评价标准

内容概要

ˆ=ˆ(x1,…,xn）是的一个估计量,n是样本容量,1.相合性 设为未知参数，nn若对任何一个〉0，有

ˆ|)0，， limP(|nnˆ为参数的相合估计。 则称n• • •

相合性本质上就是按概率收敛，它是估计量的一个基本要求，即当样本量不断增大

时,相合估计按概率收敛于未知参数；

矩法估计一般都是相合估计；

在很一般的条件下，最大似然估计也是相合估计.

ˆ(x1,…，xn)是的一个估计,的参数空间为，若对，有 2．无偏性 设=nE(ˆ)

ˆ是的无偏估计，否则称为有偏估计。 则称ˆ)，则称ˆ是的渐近无偏估计。 假如对任意的,有limE(n3．有效性 设ˆ1是ˆ2的两个无偏估计，如果对任意的有

Var(ˆ1)Var(ˆ2),

且至少有一个使得上述不等号严格成立，则称ˆ1比ˆ2有效。

ˆ是的一个估计(无偏的或有偏的）4．均方误差 设，则称

ˆ)MSE(ˆ)2E(ˆ)Var(ˆ))2 (E(ˆ不仅方差较小,而且偏差(Eˆ)也小，所以均方为的均方误差.均方误差较小意味着：误差是评价估计的最一般标准。

•使均方误差一致最小的估计量一般是不存在的，但两个估计好坏可用均方误差评价： •在无偏估计类中使均方误差最小就是使方差最小。

习题与解答6。2

ˆ为1．总体X~U(,2),其中0是未知参数，又x1,,xn为取自该总体的样本，x样本均值.

ˆ(1）证明2x是参数的无偏估计和相合估计; 3（2)求的最大似然估计,它是无偏估计吗？是相合估计吗?

23解:（1)总体X~U（,2),则E(X)，Var(X),从而

12232E(x),Var(X).

212nˆ)于是，E(22E(x)，这说明x是参数的无偏估计。进一步 33224ˆ)Var(0, 912n27nˆ也是的相合估计. 这就证明了（2）似然函数为L()(1)I(x(1)x(n)2),显然L()是的减函数,且的

n取值范围为

x(n)2x(1)，因而的最大似然函数估计为

ˆmlex(n)2

ˆ的均值与方差，由于xn的密度函数为 下求mle

f(x)故E(x(n))2n(x)nn111nn0(x)n1, x2 (txn(x)n2dx2)t(n1)dtn12n1, n1E(x(n))2xnn(x)dx4n28n22(n2)(n1)

Var(x(2n))从而：

(nn22)(n1)2

ˆE1E(x(n))22n12(n1)(n)

ˆ不是的无偏估计，但它是的渐近无偏估计和相合估计。 所以mle2。设x1，x2， x3，是取自某总体的容量为3的样本，试征下列统计量都是该总体均值的无偏估计，在方差存在时指出哪一个估计的有效性最差？

11ˆ11(1)2x13x26x3

11ˆ21(2)3x13x23x3

12ˆ11（3)6x16x23x3

解：先求三个统计量的数学期望

11111ˆ1)1E(2Ex13Ex26Ex3213263 11111ˆ2)1E(3Ex13Ex23Ex3313233 12112ˆ3)1E(6Ex16Ex23Ex3616233

这说明他们都是总体均值的无偏估计，下面求他们的方差,不妨设总体的方差为2。

2222711111ˆ1)1Var(Var(x)Var(x)Var(x) 123493936182222111111ˆ2)1Var(9Var(x1)9Var(x2)9Var(x3)9993ˆ3)Var(13614Var(x1)36Var(x2)9Var(x3)13621423629212

ˆ2)Var(ˆ1)Var(ˆ3),从而ˆ3的有效性最差。 不难看出，Var(

ˆ)0,试征ˆ是参数的无偏估计，且有Var(ˆ2不是参数2的无偏估计。 3。 设ˆ)E(ˆ2)(E(ˆ))20.由于ˆ是参数的无偏估计,证明：由方差的定义可知，Var(ˆ),因而 E(ˆ2)Var(ˆ)(E(ˆ))2Var(ˆ)2>2，ˆ2不是参数2的无即E(所以偏估计.

4。 设总体X～ N(,2), x1，x2，…,xn是来自该总体的一个样本.试确定常数C，使

C(xi1xi)2

i1n1为2的无偏估计。

解：由于总体X～ N(，2),所以

E(xi2)22, E(xixi1)E(xi)E(xi1)2,i1,2,n

于是

n1n1n1n1n12222EC(xi1xi)CE(xi1xi)CE(xi1)E(xi)2E(xi1xi)

i1i1i1i1i1n1n1n12222C()E()22C2(n1)(22)2(n1)2

i1i1i12C(n1)2

2可见，要使C(xi1xi)为2的无偏估计,只有Ci1n11。

2(n1)5。 设从均值为方差为2>0的总体中分别抽取容量为n1和n2的两个样本，其样本均值分别为x1,x2.试证，对任意常数啊a,b(a+b=1),Yax1bx2都是的无偏估计，并确定常数a,b使Var(Z）达到最小。

证:由于x1,x2为容量为n1和n2的两个样本的样本均值，故

E(x1)E(x2)，Var(x1)2/n1,Var(x2)2/n2，

因而：EYaE(x1)bE(x2)ab。这说明Yax1bx2是的无偏估计。 又由a+b=1知，Yax1bx2ax1(1a)x2,从而

11a21a21VarYaVarx11aVarx22a2a

n1n2n2n2n1n2222求导知，当a

1/n2n1n2时，Var(Y)达到最小，此时b

1/n11/n2n1n2n1n2n1x1n2x2是线性无偏估计类U{ax1(1a)x2}中方差最小的。

n1n2这个结果表明，来自同一总体的两个容量为n1和n2的两个样本合样本(样本容量为

n1+n2)的均值x6。 设分别来自总体N（1,2）,和N(2,2)中抽取容量为n1和n2的两个样本，其样本方差分别为s12， s22。试证，对任意常数啊a,b（a+b=1)，Z=a s12，+b s22都是2的无偏估计，并确定常数a，b使Var（Z)达到最小.

解:由已知条件有

n11s122222~n11,

222n21s122~2n21,

且s1,s2.于是Es1Es2,故

2EZEas12bs222aEsbEsa21222b2ab22,

2这证明了Zas1bs2是的无偏估计。

又 Vars2124242,Vars2,从而 n11n212VarZa2Vars121aVars2

2nn2221421a2a,

n21n21n11n22n11n21,该无偏估计为 因而当a时，VarZ达到最小,此时bn1n22n1n222xi1n1ixyiy2i1n22n1n22.

22样本,上述是的线性无偏估计类Uas11as2中方差最小

22这个结果表明,对来自方差相等(不论均值是否相等)的两个正态总体的容量为n1和n2的

7.设有k台仪器，已知用第i台仪器测量时,测量值总体的标准差为ii1,2,,k.用

这些仪器的对某一物理量各观察一次,成为的无偏估计,且方差达到最小。

k解：若要使aixi为的无偏估计,即

i1kkEEaixia1anai,

i1i1k则必须有

ai1,此时

i1kVarVara22ixia11a22kk.

i1kk因此,问题转化为在

ai1的条件下，求i1a2i2i的极小值。

i1k令fa22k1,akaiiai1,由

i1i1fa0,i1,2,,k和f0, i得到

2a2ii0, (1)kai1, (2)i1从（1）中可以得到ak1i22,代入(2）中，解出1ii122i，从而 1a2iik1,i1,2,,k.

j12j8．设x1,,xn是来自均匀总体U,1的一个样本.

（1) 验证1n1x1,2x1n1,3xnn1都是的无偏估计； (2) 比较上述三个估计的有效性.

解： 令yixi,则yi~U0,1,即y1,y2,,yn是来自U0,1的样本,且

xy,x1y1,xnyn.

于是,我们可将诸估计写成y1,y2,,yn与的函数：

1y1, 122y1n1, 3ynnn1.

由此，

E111Ey2,VarX1Vary12n.

又y1~Be1,n,yn~Ben,1,这说明

Ey1由此可以得到

1nn,Eyn,Varyn, 2n1n1n1n2E2,E3,Var1Var2n综上,1,2,3均是的无偏估计,而且2与3的方差相等,但在比较1与2的方差是要取

n12n2.

决于n的大小，当1n7时，1比2,3有效；当n8时，2,3比1有效。

N2,4,且两个样本.

(1)求12的矩估计；

（2)如果nn1n2固定,试问如何分配n1和n2才能使得的方差达到最小。

y1yn2xxn,2的矩估计为y解;（1）由题意可知1的矩估计为x1,n1n2因而12的矩估计xy.

下

9。设样本x1,,xn1来自一个正态总体N1,1,样本y1,,yn2来自另一个正态总体

（2)由于x~N(1,1/n1),y~N(2,4/n2),且两个样本，故在n1n2n的条件

ˆ)Var(x)Var(y)Var(使用和本节第5题相同的方法，由

1414deff(n1). n1n2n1nn1df(n1)dn11n241def 0,可解出

nn(另一12(nn1)3d2f(n1)2812ˆ的方差达解n1n不适合）,而故nn,nn时0,1223333dn1n1(nn1)到最小.

10．设总体X~Exp(1/),x1,…xn是样本，试证x和nx(1)都是的无偏估计量,并比较其有效性.

E(X),Var(X),因而E(x),Var(x)解：由指数分布知，

22n,这说明x是

的无偏估计量.又最小次序统计量x(1)的密度函数为f1(x)因而有E(x(1))nen,即x(1)~Exp(n/),,Var(x(1))()2,从而E(nx(1)),即nx(1)是的无偏估计量,且

nnVar(nx(1))2.

注意到当n〉1时,Var(x)2n2Var(nx(1)),这说明作为的无偏估计,x比nx(1)更有效.

11．设总体为X~P(),x1,…,xn为其样本，试求2的无偏估计。 解：此处样本均值x为参数的充分统计量，且E(x),Var(x)n，于是

E(x2)Var(x)E(x)2因而E(x2n2,

xx)2,从而可得2的一个无偏估计为x2. nn12．设总体为X~U(1/2,1/2),x1,…xn为样本，证明样本均值x和样本中程

1(x(1)x(n))都是的无偏估计,并比较它们的有效性。 2解：由总体X~U(1/2,1/2),得E(X),Var(X)1,因而E(x)，这12ˆx是的无偏估计，且Var(ˆ)首先说明样本均值111. 12nˆ为求样本中程211(x(1)x(2))的均值与方差,注意到YX()~U(0,1),令 22yixi(1/2),i1,2,…，n，

ˆ则 2111(x(1)x(n))(y(1)y(n)). 2221n,E(y(n)),从而 n1n1由于y(i)~Be(i,ni1),故E(y(1))ˆ)1E(yy)1. E(2(1)(n)22这就证明了样本中程是的无偏估计。又注意到（参见第五章5。3节习题29)

y(n)y(1)~Be(n1,2),

所以

n,2(n1)(n2)

2(n1)Var(y(n)y(1)),(n1)2(n2)Var(y(1))Var(y(n)) 从而

1Cov(y(1),y(n))[Var(y(n))Var(y(n))Var(y(n)y(1))]2

1.(n1)2(n2)于是

11Var((x(1)x(n)))[Var(y(1))Var(y(n))2Cov(y(1),y(n))]24

12n21[].224(n1)(n2)(n1)(n2)2(n1)(n2)在n2时，

11.这说明作为的无偏估计，在n>2时,样本中程12n2(n1)(n2)1(x(1)x(n))比样本均值x有效。 22213。设x1,...,xn是来自正态总体N(,)的一个样本，对考虑如下三个估计

1n1n1n22222ˆˆˆ(xx),(xx),(xx) iii23n1i1ni1n1i121（1) 哪一个是的无偏估计? (2) 哪一个均方误差最小？

2n解：(1)由于2(xix)~(n1),故有E(xix)2(n1)2,

i1i11n22从而

2ˆ12)2,E(ˆ2E()2n12n122ˆ3,E().

nn122ˆ3是的有偏估计. ˆ1是的无偏估计,而ˆ2与这说明仅有(2) 我们知道,估计的均方误差是估计的方差加上偏差的平方，即

22ˆi22)2Var(ˆi2)(E(ˆi2)2)2. E(而Var((xi1nix)2)2(n1)4,这给出

21242(n1)42(n1)422ˆ)ˆ2)ˆ3),Var(,Var(Var(. 22n1n(n1)于是

24ˆ)Var(ˆ), MSE(n12121ˆ2)MSE(22(n1)4n122n1422(),

nn2n2ˆ3)MSE(显然

22(n1)4n1222()4, 2n1(n1)(n1)222n12ˆ32的均方差最小. ,2,(n1),所以n1n1nn12ˆ3是的有偏估计，上述结论表明,在均方误差意义下,有时有偏估计要比注意，这里无偏估计更优。

14. 设x1,,xn是来自密度函数为p(x;)e（1）

(x)2,x的样本，

求的最大似然估计ˆ1,它是否是相合估计？是否是无偏估计?

（2) 求的矩估计ˆ2，它是否是相合估计?是否是无偏估？

ˆxc的估计,求使得ˆ的均方误差达到最小的c，并将之与（3) 考虑的形如c(1)cˆ1,ˆ2的均方误差进行比较。

解: （1）似然函数为

nL()ei1(xi)IxinexpxinIx(1).

i1ˆx.又显然L()在示性函数为1的条件下是的严增函数，因此的最大似然估计为1(1)x(1)的密度函数为f(x)nen(x),x,故

ˆ)xnen(x)dx(t)nentdt1, E(100nˆ)(n)且 故ˆ1不是的无偏估计，但是的渐近无偏估计.由于E(1ˆ2)E(10xne2n(x)dx(t22t2)nentdx0222, 2nnˆ)Var(1这说明ˆ1是的相合估计。

221122()0, nnn2n2(x)dx1,这给出EX1，所以的矩估计为（2) 由于E(X)xe02ˆ2x1.又E(X)x2nen(x)dx222,所以Var(X)1,从而有

011E(ˆ2)E(x)1,Var(ˆ2)Var(X)0(n),

nn这说明ˆ2既是的无偏估计,也是相合估计.

ˆxc的估计类，其均方误差为 (3) 对形如c(1)ˆ) Varxc)(Exc)2MSE((1)(1)c因而当c011(c)2, 2nn1ˆ)1达到最小，利用上述结果可以算出 时,MSE(c0nn2ˆ)MSE(12ˆ)1, ，MSE(2nn21的均方误差最nˆ)MSE(ˆ1)MSE(ˆ2)，所以在这三个估计中,ˆx故有MSE(c0(x)c0小。

15.设总体X~Exp(1/),x1,,xn是样本,的矩估计和最大似然估计都是 x,它也是的相合估计和无偏估计，试证明在均方误差准则下存在优于x的估计(提示：考虑

ˆax,找均方误差最小者). a证:由于总体X~Exp(1/),所以E(x),Var(x)计类,其均方误差为

22aˆ)Var(ax)(E(ax))(a1)22. MSE(an22nˆax的估.现考虑形如a将上式对a求导并令其为0，可以得到当a0nˆ)最小，且 时,MSE(an1ˆ)MSE(a012MSE(x). n1n2这就证明了在均方误差准则下存在一个优于x的估计.这也说明，有偏估计有时不比无偏估计差。

n216。设x1,,xn同分布，Ex1=,Var（x1)〈+,证明ixi是的

n(n1)i1相和估计。

证：由于

n22n(n1)E()i

n(n1)i1n(n1)2n4Varx14Varx1n(n1)(2n1)2Var()2i0(n), =2226n(n1)i1n(n1)n2ixi是的相合估计. 这就证明了n(n1)i117.设x1,xn是取自均匀分布总体U(1,2)的一个样本，若分别取1minx1,xn和2maxx1xn作为1,2的估计量，问1,2是否为1,2的无偏量估计量?如果不是，如何修正才能获得1,2的无偏估计.

解：令Y=

X1，则Y~U(0，1）记y(1),y(n)为样本相应的次序统计量,于是有

211nEy(1),Ey(n),

n1n1从而

n112, n1n1n1nE21(21)2,

n1n1E11(12)可见1,2不是1,2的无偏估计量，由

n12(n1)Ex(1), n(n1)Ex,2(2)1nEx(1)Ex(n),1n1解之得 

nEx(n)Ex(1)2,n1因而1 是1,2的无偏估计量.

n1n118。设x1,x2 同分布，其共同的密度函数为

nx(1)x(n),2nx(n)x(1)p(x;)（1）证明：T13x23,0x,0.

27(x1x2)和T2maxx1,x2都是的无偏估计； 36（2)计算T1和T2的均方误差并进行比较；

（3)证明:在均方误差意义下，在形如TCcmaxx1,x2的估计中T8 最优.

732dx，故E(T)2E(X),这说103432x3x3d明T1是的无偏估计.又总体分布函数为F(x;)(),0x,记3解：（1)先计算总体均值为E(X)x3x20Y=maxx1,x2，则密度函数为

f(y;)2F(y;)p(y;)6y56,0y.

76y676dy 于是有 E(T2)60667这表明T2也是的无便估计.

(2）无偏估计的方差就是均方误差,由于

32dx,

053332Var(x1)E(x1)E(x1)22(3)22,

5480E(x1)x223x2故有

MSE(T1)Var(T1)又

48312Var(x1)22. 998030232dy, 6043632Var(Y)E(Y2)(EY)22()2, 47196E(Y)y26y5从而

493212. 36198由于MSE(T1)MSE(T2),因此在均方差意义下，T2优于T1.

63222(3）对形如Tccmax{x1,x2}的估计有E（Tc)c,E(Tc)c,故

74312MSE(Tc)E(TC)2E(Tc2)2E(Tc)2(c2c1)2,

47MSE(T2)Var(T2)因此当c127328时，上述均方误差最小，所以在均方误差意义下,在形如77Tccmax{x1,x2}的估计中,T8最优。

19．设x1,......,xn是来自均匀分布U(0,)_的一个样本，对参数有如下三个估计

n112x,2x(n),3(n1)x(1)

n(1) 验证这些估计的无偏性； （2) 比较这些估计的有效性； （3) 研究这些估计的相合性。

解：（1）由于xi~U(0,1),所以E(1)2E(x)22,又yx(n)的密度函数为

p(y)所以

nyn1n,0y,

E(2)n1n1nE(x(n))nnnn0yndy1n1. n类似地，zx(1)的密度函数为 p(z)z(1)n1,0z,所以

yy(2)(n)E(3)(n1)E(x(1))n(n1)(1)n1dyn(n1).

0(n2)由此看出，三个估计1,2,3都是的无偏估计.

（2）分别计算三个估计的方差

Var(1)4Var(x)4n12nVar(2)E()[E(2)]()nn222212n223n,

0yn1(n1)22122,

n(n2)n(n2)0yVar(3)E()[E(3)](n1)ny2(1)n1dy22322(3)(n)2(n1)2nn(n1)22222.(n3)n2n2

11n,所以这三个估计中2最有效，1为次，3最差。 由于n2时，有

n(n2)3nn2（3) 由于1与2的方差都随着n而趋于零，故1与2都是的相合估计,但3不是的相合估的计。为了证明这一点,我们需要3的分布函数，由于zx(1)的分布函数为

zF(z)1(1)n,0z.

于是,3(n1)x(1)的分布函数为

F(t)1(1由此可得

t)n,0t(n1).

(n1)P(3)p(3)F()F()(1nn)(1)

(n1)(n1)e()e()(n)e1[ee].2(1),这是一个很小的数，它与1相差很大，这表明p(3)不会趋于1,故3不是的相合估计。

在充分小时,ee120．设x1,,xn是来自二点分布b(1,p)的一个样本， (1) 寻求p的无偏估计; （2) 寻求p(1p)的无偏估计； (3) 证明

21的无偏估计不存在。 p222解：（1)x是p的最大似然估计，x是p的最大似然估计，但不是p的无偏估计,这

是因为

E(x2)Var(x)[E(X)]2由此可见p2p(1p)pn12p2pp2, nnnn2xx是p2的无偏估计. n1n2（2） x(1x)xx是p(1p)的最大似然估计,但不是p(1p)无偏估计,这是因为E(xx)p(2p(1p)n1np2)p(1p)p(1p),由此可见x(1x)nnn11,xn)是的无偏估计，则有

p是p(p—1)的一个无偏估计,

（3）反证法，倘若g(x1,x1,xnng(x1,xn)pi1(1p)xi1nnxinxii1n1 p或者

x1xng(x,x1n)pi1(1p)xii1n10

上式是p的n+1次方程,它最多有n+1个实根,而p可在(0，1）取无穷多个值，所以不论取什么形式都不能使上述方程在01的无偏估计不存在. p21．设x1,xn是来自均匀分布U,的一个样本，寻求与的无偏估计。 解：容易看出，x(1)与x(n)分别是与的最大似然估计，但它们都不是无偏差估计,这是因为均匀分布U,的分布函数与密度函数分别为

0,xa,1,x,xF(x),x,和p(x)

其它.0,1,x由此可导出次序统计量yx(1)与zx(n)的密度函数分别为

yn11n(y)n1p(y)n(1),y, n()zn11n(y)n1p(z)n(),z, n()从而可以分别求出它们的期望

E(x(1))n()ny(y)n1dynn1, (＊）

nE(x(n))()nz(za)n1dzna. (＊*） n1这表明:x(1)与x(n)不是与的无偏估计，但做恰当修改后,可获得与的无偏差估计。把(＊)与（**)两式相加与相减可得

E(x(1)x(n)),

E(x(1)x(n))n1n1() 或 E(x(1)x(n))(), n1n1再使用加减消取法，即可得与的无偏估计发表为

ˆnx(1)x(n)ˆnx(n)x(1),.

n1n1ˆˆ(x,22．设x(1),x(n)是来自总体分布函数为F(x;)的一个样本,若1的有偏估计,且其期望有如下形式

,xn)是ˆ)(), （＊） E(n其中()仅是的函数，而与样本量n无关.这时,为了减少偏差,常用如下的、“刀切法”：

ˆ是把原样本中的第i个分量剔除，用留下的容量为n-1的样本得到的类似估计量.即记iˆ)ˆ与ˆ的估计公式有相同形式,且E(ii()n1,i1,2,,n.

ˆ(1)nˆ是的无偏估计； （1) 证明：新的估计（一切的估计)i(2) 用刀切法寻求泊松分布p()中参数平方的一阶刀切估计。

2ˆ解：（1）一阶刀切估计(1)期望为

n1n()n1n()(1)ˆˆˆE()nE()E(i)n, ni1nni1n1ˆ是的无偏估计。 所以(1)ˆx不是的无偏估(2) 在泊松分布p()中，样本均值x是的无偏估计,但22计,这是因为E(x)Var(x)E(x)22n22，若做简单修改,用x/n代替/n,就

ˆ可以得到的一个无偏估计2(2)xx2.

n2ˆx是的有偏估计，且现在用“刀切法”寻找的一介刀切估计，已知22ˆ)(),其中()仅是的函数.若剔除样本中第i个分量，可得 E(nnnxxi212ˆ(xx)(), jii(n1)2j1n1再做一阶刀切估计

ˆ2(1)n1n1ˆnˆi, ni1ˆ和ˆ代入上式，可就可以得到的一个无偏估计,以下来化简这个一阶刀切估计,把i得

n1(nxxi)2 n(n1)i1ˆ(1)nx22n12nx[n(nx)2nxnxxi2]

n(n1)i1nn22n1x[n]xi2 n1n1n(n1)i121n2xin2n11n22i1x[nxxi], n1n1n1ni1这就是的另一个无偏差估计。

2§6.3 最小方差无便估计

内容概要

ˆ是的一个无偏估计，1．一致最小方差无偏估计 设如果对另外任意一个的无偏估

上都有 计,在参数空间ˆ)Var(), Var(ˆ是的一致最小方差无偏估计,简记为UMVUE。 则称ˆˆ(x,2．判断准则 设1ˆ).如果对任意一个,xn)是的一个无偏估计,Var(满足E((x1,,xn))0的，都有

ˆ,)0,, Cov(ˆ是的UMVUE。 则3. 充分性原则

➢ 任一参数的UNVUE不一定存在,若存在,则它一定是充分统计量的函数； ➢ 若的某个无偏估计不是充分统计量TT(x1,,xn)的函数，则通过条件期望

可以获得一个新的无偏估计ET，且方差比原估计的方差要小； ➢ 考虑的估计时，只需要在其充分估计量的函数中寻找即可，该说法对所有统计推

断都是正确的。这便是充分性原则。

4．费希尔信息量I() 设总体的概率函数p(x;),满足下列条件: (1) 参数空间是直线上的一个开去区间; (2) 支撑Sx:p(x;)0与无关； (3) 导数

^^^p(x;)对一切都存在; (4) 对p(x;),积分与微分运算可交换次序,即

p(x;)dxp(x;)dx; (5) 期望I()lnp(x;)存在，

则称该期望I()为总体分布的费希尔（Fisher)信息量.

如果二阶导数对一切都存在，则I()还可用下式计算

22I()E2Inp(x;)

5．常用分布的费希尔信息量

•二点分布b(1,p）的费希尔信息量I(P)P(1P);

1•泊松分布p()的费希尔信息量I()1； •指数分布Exp()的费希尔信息量I()2； •正态分布N(,1)的费希尔信息量I()1； •正态分布N(0,2)的费希尔信息量I(2)124；

12•正态分布N(,2)的费希尔信息量（信息矩阵)I(,2)06．C—R不等式

'设TT(x1,,xn)是未知参数g()的一个无偏估计，若g()0. 142g()存在，则在费希尔信息量I()也存在的条件下有

g()Var(T)'2nI()

上式称为克拉美-罗（C—R）不等式，g'()/(nI())称为g()的无偏估计的方差的C—R下界,简称g()的C——R下界.特别,对的无偏估计,有Var()(nI()).

注：g()的C-—R下界并不是对任意参数g()的无偏估计的方差都可达到。但能达C——R到下界的g()的估计TT(x1,,xn)一定是g()的UMVUE.

^^12习题与解答6。3

TT(x1,,xn)是的充分统计量,1．设总体概率函数是p(x;),x1,,xn是其样本，

则对g()的任一估计g,令gE(g\\T),证明MSE(g)MSE(g).这说明,在均方误差准则下，人们只需考虑基于充分统计量的估计。

证：我们将均方误差作如下分解

MSE(g)E(g)2E(ggg)2EggMSE(g)2E(gg)(g).2

注意到gE(g\\T),这说明

E(gg)|TE(g|T)EE(g|T)|TE(g|T)E(g|T)0,

于是

E(gg)(g)EE(gg)(g)|T=E(g)E(gg)|T0,

因而MSE(g)E(gg)MSE(g)MSE(g).

2。设T1,T2分别是1,2的UMVUE，证明：对任意的(非零)常数a,b,aT1bT2是

2a1b2的UMVUE.

证：由于T1,T2分别是1,2的UMVUE，故ETii,且对任意一个(x)，满足E0，由本节11题结论有Cov(Ti,)0,i1,2,于是

E(aT1bT2)a1b2,Cov(aT1bT2,)aCOV(T1,)bCov(Y2,)0,因此aT1bT2是a1b2的UMVUE。

ˆ是g()的无偏估计,证明：若Var(gˆ),则3。设T是g()的UMVUE,gˆ)0. Cov(T,gˆ是g()的无偏估计,故其差Tgˆ是0的无偏估计，证:因为T是g()的UMVUE，gˆ)0,且Var(Tgˆ),由本节11题结论知Cov(T,Tgˆ)0,这说明 即E(Tgˆ)0,即Cov(T,gˆ)Var(T)0. Var(T)Cov(T,g1n1n24. 设总体X~N(,),x1,,xn为样本，证明，xxi,s(xix)ni1n1i122分别为,的UMVUE。

证：大家知道，x,s分别是,的无偏估计,设(x1,,xn)是0的任一无偏估计，则

222E即

i1n(xi)21expdx1222dxn0,

1n2nxn22xi22dx1(2)exp22i12n2dxn0. （＊)

将（＊）式两端对求导，并注意到E0,有

1n2nxn22xi22dx12(2)exp22i1nx2-n2dxn0. (＊＊)

这说明E(nx22于是Cov(x)E(x)ExE0，从而x是的)0,即Ex0，

UMVUE。

为证明s是的UMVUE，我们将(＊＊）式的两端再对求导，得

21n2nxn22xi22dx1(2)(2)exp22i1nx2n2dxn

dxn0.

0的项,有

n1n2nxnxnn2222xi22dx122(2)exp22i122由此可以得到E(x)0,下一步,将(*)式两端对求导,略去几个前面已经指出的积分为

1n2nxn2xi(2)exp2xi22dx12i12i1n22n2dxn0.

这表明E(xi)0,由此可得到E(s2)0,因而

2i1nCov(s2,)E(s2)E(s2)E0，

这就证明了s是的UMVUE。

222p(x;)对一5。设总体的概率数为p(x;),满足定义6。3。1的条件，若二阶导数2切的存在，证明费希尔信息量

2I()E(2lnp(x;)).

证：

记Slnp(x;),则

1p(x;)p(x;)dxp(x;)

p(x;) dxp(x;)dx0,ES所以

ES0.另一方面, ES(Sp(x;))dxSp(x;)p(x;)Sdx 22lnp(x;)lnp(x;)p(x;)dxp(x;)dx 22lnp(x;)2lnp(x;)2EESEI() 222lnp(x;)这就证明了I()E. 26.设总体密度函数为p(x;)x1,0x1,0,x1,,xn是其样本。 (1） 求g()1/的最大似然估计；（2) 求g()的有效估计。 解：

（1）似然函数为 L()nxi1n1i,对数似然函数为

1nlnL()nln(1)lnxinlng()g()1lnxi.

i1i1将似然函数求导并令其为0，得似然方程

nlnL()n1lnxi0,

g()g()g2()i11nˆ()lnxi. 解之得gni1(2) 令YlnX,则

P(Yy)P(lnXy)P(Xe)yx1dx1ey,

ye1ˆ()~Ga(n,n),于是 因此Y~Exp()Ga(1,),从而有gˆEgn1nˆ)g(),Var(g. 2nn为求有效估计,需求出的希尔信息量，注意到，lnp(x,)ln(1)lnx.

lnp(x;)12lnp(x,)1lnx,. 22而g()2,于是g()的任意无偏估计的C-R

g()下界为

nI()21,从而2n1n1nˆ()lnxi是g()的无偏估计，且方差达到了CR下界.所以gˆ()lnxigni1ni1是g()的有效估计

/x3,x0,0，求的费希尔信息量I().

2解：对数密度函数为 lnp(x,)ln2ln3lnx/x,求一、二阶导数，有

lnp(x,)112lnp(x,)12,, 22x7.设总体密度函数为p(x,)2e/x22lnp(x,)1由此给出 I()E2, 2(1),xc,c0已知，求的费希尔信息量I(). 8.设总体密度函数为p(x,)cx解：对数密度函数为 lnp(x,)lnlnc(1)lnx,求一、二阶导数，有

lnp(x,)12lnp(x,)1lnclnx,, 222lnp(x,)1由此给出 I()E2, 22X2,x2,,01,求的费希9。设总体分布列为P(XX)(X1)(1)尔信息量I().

解：对数分布为

lnp(Xx)ln(x1)2ln(x2)ln(1)

求一二阶导数，有

lnp(Xx)2x2lnp(Xx)1,

1在本章第3题中,我们已经算得E(x)2,于是

lnp(Xx)2E(x)2I()E 22(1)10。设x1,也是UMVUE

,xn是来自Ga(,)的样本，试证明x/是g()1/的有效估计,从而

1xxe,于是 解:总体Ga(,)的密度函数为p(x;)()lnp(x;)lnln()(1)lnxx, lnp(x;)2lnp(x;)x,

22,所以的费希尔信息量为()1,这就是说g（的任一无偏估计的C-R下界为 )2g()2n()又

1n2.

1x11x11E,Var22. 2nn这就证明了x/是g()1/的有效估计.从而也是UMVUE.

11.证明：定理6.3.3的逆也对,即：若是的UMVUE，则对任一满足E(x)0且

0Var(x)的(x)有

Cov,(x)0, .

证：采用反证法.倘若在参数空间中有一个0使得Cov0(,(x))defa0,取

baVar0(x)0,则

a2Var0(x)bVar0(x)2abb(a2a)20,

~~令b(x),则E0()E0()bE(x)，这说明也是的无偏估计,但

~2~Var()Eb(x) 00222E0()bE0(x)2bE0()(x)

Var0()2bVar0(x)2abVar0(),

这与是的UMVUE矛盾，这就证明了对参数空间中任意的都有Cov,(x)0,

也即定理6.3.3的逆也对.由此我们知道，条件“对任意满足E(x)0的(x)有

Cov,(x)0\"“是的UMVUE”的充分必要条件.

212. 设总体X~N(,),x1,x2,,xn为样本,试求：

(1)342的最小方差无偏估计；（2）4的最小方差无偏估计.

2221n22(xx)解:(1)本节第4题已经证明了x和s分别是和的UMVUE,in1i12则由本节第2题知3x4s是34的最小无偏估计.

2(2）对任意一个0的无偏估计(即E0）有Cov(x,)0（见本节第4题证明过程）和Cov(s,)0,于是有

21n2n12Covxi,Covs,Cov(x,)0,

nni11n21n21n222222而Exi5s4且Covxi5s,0,所以xi5s是

ni1ni1ni1242的最小方差无偏估计。

13。

设x1,,xn同分布，x1 的取值有四种可能，其概率分别为

p11,p22,p323,p43

记为Nj为x1,,xn中出现各种可能结果的次数,N1N2N3N4n

（1) 确定a1,a2,a3,a4,使TaNii14i为的无偏估计；

(2) 将Var(T)与的无偏估计方差的C-—R下界比较. 解:(1） 由于Ni~b(n,pi),i1,2,3,4,所以ENinpi,从而有

ETajENja1n(1)a2n(2)a3n(23)a4n3

j123=na1n(a2a1)n(a3a2)n(a4a3)。

4若使T为的无偏估计,即要求

na10,n(aa)1,21 n(aa)0,23n(a4a3)0,解之得

a10,a2a3a4即T(N2N3N4)/n是的无偏估计。

(2）P(Njnj,j1,,4)1 n.n!(1)n1(2)n2(3)n3(3)n4

n1!n2!n3!n4!=

n!n22n3(1)n1n2n3,

n1!n2!n3!n4!对数似然函数为(略去与的无关的项)

lnP(n22n33n4)ln(n1n2n3)ln(1).

于是

lnPn22n33n4n1n2n3, 1n22n33n4n1n2n32lnP. 222(1)注意到观测量n1,n2,n3,n4是随机变量,且E(nj)npj,故

En12n23n3n222333n2..3， En1n222333nn1n1。

从而费希尔信息量为

2lnPn23n13n12. IE22211所以的无偏估计方差的C-R下界为

n1.由于

n12N2N3N4nN1~bn,

于是T1N3N2N4的方差为： nVarT111VarNNN， 23422nnn1即T的方差没有达到的无偏估计方差的C-R下界。

14。设x1,...,xn是来自正态总体N,22的一个样本,若均值已知,证明：

1nˆxi2是2的有效估计; (1) ni11nˆ(2） xi是的无偏估计,但不是有效估计。 n2i12ˆn证明：（1。)由

2ˆ~n知E222ˆ,Var2242.为了获得的无偏

n2估计的C—R下界，需要费希尔信息量,大家知道,正态分布N,数是

的密度函数p（x）的对

11x22lnpxln2ln， 2222x1x22。 lnpx122224242由此得的费希尔信息量

2lnpx14224I2EEx2Ex248 11444322448从而的无偏估计的C—R下界为nI222221n421242，此下界与上述无nˆ是的有效估计。 偏估计的方差相等，故此(2）由于Exi12xex222dx220yey22dy2

ˆ，即ˆ是的无偏估计,其方差为 可见,EˆVar2n22nVarxi1ni2

222222n2n2ExiExi为了获得的无偏估计的C—R下界，需要知道的费希尔信息量，由于

lnpx1x122x，332lnpx21422IxEEx2Ex46, 124446322从而的无偏估计的C—R下界为nI12n2122nˆ的方差，由于无偏估计22n22n222nˆ不是的有效估计.此处，的无偏估计的C—R下界与ˆ的方差的比,故1ˆ的效。 0.876,该比值常称为无偏估计222n 15。证明:若T1与T2是未知参数g（)的两个UMVUE，则T1=T2(a.e).这个命题表明：g（）的UMVUE在几乎处处的意义下是唯一的。 证明：首先,T1—T2是0的无偏估计，则由本节第11题

Cov(Ti,T1T2)E(Ti(T1T2))0, i1,2 于是

E(T1T2)2E(T12T222TT12)2由此立刻可得(T1T2) a.e 0，从而T1 a.e T2，

E(T（（1T1T2)E(T2T1T2)0，

§ 6.4 贝叶斯估计

内容概要

1. 贝叶斯统计推断使用的三种信息

➢ 总体信息，总体分布和总体所属分布族提供的信息； ➢ 样本信息，从总体中抽取的样本所提供的信息；

➢ 先验信息,在实验前人们对要做的问题在经验上和资料上所占用的信息.

2. 贝叶斯统计的基本观点 任意一个未知量  都可看作一个随机变量,用一个概率分布来描述未知参数是最好的办法，这个分布称为先验分布。

3. 贝叶斯公式的密度函数形式

 总体分布依赖于参数的概率函数在贝叶斯统计中记为 p(x|）,他表示在随机变量 取某个给定的值时总体的条件概率函数;

 根据参数 的先验信息可确定先验分布 （ ）；

 从贝叶斯观点看，样本x1，x2,…,xn的产生分两步.首先从先验分布 ( )中产生一个样本0，然后从p(x1，x2，…,xn｜ )产生一组样本这时的样本联合条件概率函数为

p(x1,x2,这个分布综合了样本信息和总体信息

,xn|0)p(xi|0)

i1n 0 是未知的,它是按先验分布 ( )产生的，为把先验信息综合进去，不能只考虑0,对的其它值发生的可能性也要加以考虑，过要用 ( ）进行综合,这样一来,样本x1,,xn和

参数的联合分布为h(x1,...xn,)p(x1,...xn|)()，这个联合分布把总体信息,样本信息和先验信息三种可用信息都综合进去了；

 分析的目的是要对未知参数作统计推断.在没有样本信息时,人们只能依据先验分布对作出推断.在有了样本观察值x1,由于h(x1,,xn之后，则应依据h(x1,,xn,)对作出推断。

,xn,)可分解为

h(x1,,xn,)=(/x1,,xn)m(x1,,xn)，

其中m(x1,,xn)h(x1,,xn,)d=p(x1,,xn|)()d是x1,,xn的边际概

率函数,它与无关，不含的任何信息.因此能用来对作出推断仅是条件分布

(/x1,,xn),它的计算公式是

(|x1,,xn)h(x1,,xn,)m(x1,,xn)p(x1,,xn/)(),xn/)()dp(x1,,

这个条件分布称为的后验分布,它集中了总体，样本和先验中有关的一切信息.

后验分布(|x1,...,xn)的计算公式就是用密度函数表示贝叶斯公式。它是用总体和样本对先验分布()作调整的结果，贝叶斯统计的一切推断都基于后验分布进行.

4. 贝叶斯估计 给予后验分布(|x1,...,xn)对所作的贝叶斯估计有多种，常用有如下三种：

• 使用后验分布的密度函数最大值作为的点估计,称为作大后验估计; • 用后验分布的中位数作为的点估计,称为后验中位数估计；

• 使用后验分布的均值作为的点估计,称为后验期望估计.这是使用最为频繁的贝叶

斯估计.

5. 共厄先验分布 设 是总体参数， （ ）是其先验分布,若对任意的样本观测得到的后验分布 （ ｜X） 与 ( ）属于同一分不族,则称该分布族是 的共轭先验分布(族)

➢ 二项分布B(n， )中成功概率 的共轭先验分布是贝塔分布Be(a,b）; ➢ 泊松分布P( ）的均值 的共轭先验分布是伽马分布Ga(，)； ➢ 在方差已知时,正态总体均值 的共轭先验分布正态分布N(,2）；

➢ 在均值已知时，正态总体方差2的共轭先验分布倒伽马分布IGa(,）（若X～ Ga（,）,则X—1的分布称为倒伽马分布IGa（,）;

习题与解答

1.

§ 6。5 区间估计

内容概要

1。 置信区间

设 是总体的一个参数,其参数空间为, x1,x2，…,xn是来自该总体的

ˆˆx,x,...,x，ˆˆx,x,...,x,样本,对给定一个(0<〈1）,若有两个统计量LL12nUU12n使得对任意的,有

ˆˆPLU1

ˆ,ˆˆˆ则称随机区间[LU]为的置信水平为1-的置信区间，或简称[L,U]是的1—置信区ˆ,ˆ分别称为θ的（双侧）置信下限和置信上限. 间, LU这里置信水平1—的含义是指在大量使用该置信区间时,至少有100(1—）％的区间含有θ

2．同等置信区间 在上述记号下,若对给定的α(0〈α<1),对任意的θΘ，有

ˆˆ)1, p(LUˆ,ˆ则称[LU]为θ的1—α同等置信区间.

同等置信区间是把给定的置信水平1-α用足了。常在总体为连续分布场合下可以实现. 3．置信限

在上述记号下,若给定的α(0<α〈1）,和任意的θΘ有

ˆ1,, pLˆ为 θ的1—α同等置信下限， 则称Lˆ)1,,则称ˆ为θ的1—α同等置信假如等号对一切，有p(UU上限.

4.枢轴量法 寻找同等置信区间常采用枢轴量法，其步骤如下：  设法构造一个样本和θ的函数GG(x1,数θ。此种G被称为枢轴量;

 适当地选择两个常数c，d，使对给定的α,(0<α<1），有P(cGd)=1—α；

,xn,),使得G的分布不依赖于未知参

ˆˆ,则有p(ˆˆ)1,  若能将不等式cGd等价变形为LULUˆ,ˆ[LU]为θ的1—α同等置信区间.

关于置信区间的构造有两点说明

ˆˆ)达到最短 满足置信度要求的c，d通常不唯一,若有可能，应选平均长度E(UL的c,d,这在G的分布为对称分布的场合往往容易实现.

ˆˆ)尽可能短的c,d往往很难实现,因此通常这样选择c， 实际中,选平均长度E(ULd，是的两个尾部概率各为/2,即P（G〈c）=P（G〉d)=/2，这样的置信区间称为登尾置信区间.这是在G的分布为偏态分布的场合通常采用的方法。

5常用的置信区间

（1).设x1，x2,…，xn是来自N(,)的样本,x为均值，s为样本标准差，up为标准正态分布的p分位数,tp(k)为自由度是 k的t分布

2p(k)为自由度是 k的2分布的p分位数,

2取置信水平为1—a,则，2,的置信区间如下表所示

参数 枢轴量 置信区间 已知 uu 未知 x~N(0,1) /nx~t(n1) s/nn[xu1a/2/n,xu1a/2/n] [xt1a/2s/n,xt1a/2s/n] nn22(x)(x)iii1i12 ,2a/2(n)1a/2(n)已知 2 212(x)ii12~2(n) 未知 2(n1)s22~(n1) 2(n1)s2(n1)s2,22 (n1)(n1)a/21a/2(xi)(xi)i1 ,i1221a/2(n)a/2(n)n2n2已知  212(x)ii1n2~2(n) 未知 2(n1)s22~(n1) 2(n1)sn1s ,221a/2(n1)a/2(n1)2（1)。设x1，x2，…,xm是来自N(1,1)的样本,x为均值,sx为样本标准差； 设y1，y2，…，2ym是来自N(2,2)的样本,y为均值，sy为样本标准差,up为标准正态分布的p分位

数,tp(k)为自由度是 k的t分布,Fp(k1,k2)为自由度是 (k1,k2）的F分布的p分位数,取置信水平为1—a, 则均值差1—2,方差比12/22的置信区间如下表所示

参数 枢轴量 Uxy(12)置信区间 12与22已知 12m~N(0,1)22 nxyu1a/212m22 n12与22未知,但 12=22 均值差1—2, 22/12=已知 TTxy(12) ~t(mn2)11swmnxyt1a/2(mn2)sw11 mn其中sw22(m1)sx(n1)symn2 xy(12) ~t(mn2)1stmnxyt1a/2(mn2)st1 mn其中st22(m1)sx(n1)sy/mn22ssxy mn2 m，n都很大时 Uxy(12)ssmn2x2y~N(0,1) xyu1a/2一般场合 Uxy(12)ssmn2xm2y~t(l)① 2ssxxyt1a/2(l)y mn22(xi)222~F(m,n) 1，2已知 Fin1211(y)ni方差比1mi111m(x)2(xi)2miin1F1a/21(m,n),in1Fa/2(1m,n) 11(y)2(y)2ninii1i1mm12/22 1,2 之一未知

22sx2F22~F(m1,n1) sy12sx11sx2 ,22F(m1,n1)F(m1,n1)ss1a/2a/2yy习题与解答6.5

1。 某厂生产的化纤强度服从正态分布，长期以来其标准差稳定在=0。85,现抽取了一个容量为n=25的样本,测定其强度，算得样本均值为x=2。25,试求这批化纤平均强度的置信水平为0.95的置信区间。 ①

注：这里

22sysxs0mn,l为最接近于

2s0ssm2(m1)n2(n1)4x4y的整数

解 这是方差已知时正态均值的区间估计问题.由题设条件10.95，0.05,查表知u0.9751.96,于是这批化纤平均强度的置信水平为0.95的置信区间为

xu1/2/n,xu1/2/n2.251.960.85/25,2.251.960.85/25=［2.25-0。3332，2。25+0。3332］,

即这批化纤平均强度的置信水平为0.95的置信区间为［1。9168,2。5832］。

2。 总体X～N（,),已知,问样本容量n取多大时才能保证的置信水平为95％的置信区间的长度不大于k.

解 由已知条件得的0.95置信区间为

22xu1/2/n,xu1/2/n,

222其区间长度为2u1/2n，若使2u1/2nk,只需n(2/k)u1/2。

3.923.92n由于u1/2=1。96，故n(2/k)221.962,即样本容量至少取时，

kk才能保证的置信水平为95%的置信区间的长度不大于k.

3．0。50，1.25,0.80，2。00是取自总体X的样本,已知Y=lnX服从正态分布N（，1）。 （1) 求的置信水平为95％的置信区间；

（2） 求X的数学期望的置信水平为95%的置信区间.

解 （1) 将数据进行对数交换,得到Y=lnX的样本值为：—0.6931，0.2231,-0。2231，0。6931.它可看作是来自正态分布N（，1）的样本,其样本均值为y=0，由于=1已知,因此，

22的置信水平为95％的置信区间为： yu1/2/n,yu1/2/n=[—0.9800,0.9800].

（2) 由于EX=e12是的严增函数，利用(1）的结果，可算得X的数学期望的置信水

0.980.5平为95％的置信区间为［e，e0.980.5]=［0.6188,4。3929].

4．用一个仪表测量某一物理量9次，得样本均值x=56.32，样本标准差s=0。22. （1） 测量标准差大小反映了测量仪表的精度,试求的置信水平为0.95的置信区间； (2) 求该物理量真值的置信水平为0。99的置信区间。

0.975(8)=17。解 (1)此处（n-1)s=8×0。22=0.3872,查表知0.025（8)=2。1797，5345,的1—置信区间为

22222(n1)s20.3872(n1)s20.3872,=，1/2(n1)/2(n1)17.53452.1797从而的置信水平为0.95的置信区间[0.1487,0.4215］。

=[0.0221，0。776] （2） 当  未知时,的1—置信区间为

［xt1/2(n1)s/n,xt1/2(n1)s/n］.

查表得t10.005（8）=3。3554，因而的置信水平为0。99的置信区间为

[56.32-3。3554×0.22/9，56。32+3。3554×0。22/9］=［56.0739,56。5661］. 5．已知某种材料的抗压强度X~N（,）,现随机地抽取10个试件进行抗压试验，测得数据如下：

482 493 457 471 510 446 435 418 394 469 .

（1） 求平均抗压强度的置信水平为95%的置信区间；

(2) 若已知=30，求平均抗压强度置信水平面为95％的置信区间； （3) 求的置信水平为95%的置信区间.

解: (1) 经计算得，x=457。5, s=35.2176， 在未知时,的置信水平为95％的置信区间为

[xt1/2(n1)s/n，xt1/2(n1)s/n]。

查表得,t10.025（9）=2。2622,因而的置信水平为95%的置信区间为

［457.5-2.2622×35。2176/10，457.5+2.2622×353。2176/10］=［432.30,482.6936］。

（2）在=30已知时,的置信水平为95％的置信区间为

2xu1/2/n,xu1/2/n,

查表得,u1/2=1.96，置信水平为95%的置信区间为

[457。5—1。96×30/10,457。5+1.96×30/10]=［438.9058,476.0942］。 (3) 此处,(n-1）s =11162.5141,取=0。05,查表得0.025（9)=2。7004，

2220.975(9)19.0228,因而2的置信水平为95％的置信区间为

11162.514111162.5141,[586.7966,4113.6521] 2.700419.0228由此可以得到的置信水平为95％的置信区间为[24。2239,.1378]。

6。在一批货物中随机抽取80件,发现有11件不合格品，试求这批货物的不合格品率的置信水平为0.90的置信区间。

解： 信区间为

此处n=80较大,可用正态分布求其近似置信区间.不合格品率的1—近似置

x(1x)x(1x)/2/2,xu1xu1.

nn此处x110.1375,u0.951.5,因而不合格品率的置信水平为0。90的置信区间为 800.13750.86250.13750.86250.13751.5,0.13751.5[0.0742,0.2008].8080

7.设x1,,xn是来自泊松分布()的样本，证明：当样本量n较大时,的近似1-置信区间为

x1u21(2x1u2)24x2,x1u21(2x1u2)24x2

2n1/22n1/22n1/222n1/2证 由中心极限定理知,当样本量n较大时，样本均值x~(,n)，因而

uxn~(0,1)，此u可作为枢轴量,对给定,利用标准正态分布的分位数u1/2可得

xpu1/21. n22括号里的事件等价于(x)u1/2/n，因而得

2(2xu12/2)x20.

其左侧的二次多项式二次项系数为正,故二次曲线开口向上,而其判别式

1nu1222xn4xu12/2u12/220 4xnn22故此二次曲线与轴有两个交点，记为L和U(LU),则有P(LU)1,其中L和U可表示为

112xu12/22xu12/24x2nn

2这就证明了的近似1置信区间为

22121121112222xu1/22xu1/24x,xu1/22xu1/24x2n2n2n2n2事实上,上述近似区间是在n比较大时使用的，此时有

121u1/20,2n22xu21/2/n4x2u1/2x/n

28.某商店某种商品的月销售量服从泊松分布,为合理进货,必须了解销售情况.现记录了该

商店过去的一些销售量，数据如下：

月销售量910111213141516月份数1613129421 试求平均月销售量的置信水平为0.95的置信区间。

解:平均月销售量 xnixi/nii1i1885751109792,此处=0。05,u1/21.96， 48n48较大，利用上一题的结果，平均月销售量的近似0。95的置信区间为

[11.97921.9611.9792/48,11.97921.9611.9792/48][11.0000,12.9584].

若用较为精确的近似公式,所得置信区间为[11.0392,12。9992]，二者相差不大.

9。设从总体X~N(1,1)和总体Y~N(2,2)中分别抽取容量为

22n110,n215的样本,可计算得x82,sx56.5,y76,sy52.4.

22（1） 若已知1,249,求12的置信水平为95%的置信区间； （2） 若已知12,求12的置信水平为95％的置信区间；

（3） 若对1,2,一无所知,求12的置信水平为95％的近似置信区间； （4） 求1/2,的置信水平为95%的置信区间。

解：（1） 在1,2都已知时，12的1—的置信区间为

22122122,xyu1a/2xyu1a/2 mnmn2222222222经计算xy6,查表得u0。975=1—96,因而12的置信水平为95％的置信区间为

4949,61.960.0939,12.0939 61.9610151015（2）当12时，12的1置信区间为

n1n2n1n2xyst(nn2),xyst(nn2). w1/212w1/212n1n2n1n222这里s2w22(n11)sx(n21)syn1n22956.51452.454.0043,t0.975(23)=2.0687,因而

2312的置信水平为95%的置信区间为

10151015 82762.068754.0043,82762.068754.004310151015

0.2063,12.2063（3）当1,2未知时，由于两个样本量不是很大,故采用一般场合下的近似置信区间，即12的1近似置信区间为

22xys0t1/2(l),xys0t1/2(l).

这里

22ss56.552.4y2s0x9.1433

n1n210159.14332l18.918719 2224s56.552.4sxy229003150n1(n11)n2(n21)又查表得t0.975(19)2.0930,因而12的置信水平为95%的近似区间为

4s082762.093021(4)

229.1433,82762.0939.1433=0.3288,12.3288

的置信水平的置信区间为

22sxsx11,2. 2syF1/2(n11,n21)syF1/2(n11,n21)2111,因而查表得F0.975(9,14)3.21,F0.025(9,14)2的置信水平为

F0.975(14,9)3.80295％的置信区间为

56.5156.5,3.800.3359,4.0973 52.43.2152.410．假设人体身高服从正态分布。今抽测甲，乙两地区18岁～25岁女青年身高数据如下：甲地区抽取10名,样本均值1。m，样本标准差0。2m；乙地区抽取10名,样本均值1。62m,样本标准差0。4m。求：

(1） 两正态总体方差比的置信水平为95％的置信区间; (2) 两正态总体均值差的置信水平为95％的置信区间。

解：设x1,,x10为甲地抽取的女青年身高,为y1,,y10乙地抽去的女青年身高，由题设条件，x1.,sx0.2,y1.62,sy0.4.

2甲（1)2的1的置信区间

乙22sxsx11,2. 2syF1/2(m1,n1)syF/2(m1,n1)此处0.05,mn10，查表F0.975(9,9)4.03,F0.025的置信水平为95%的置信区间为

甲11由此，2F0.975(9,9)4.03,乙20.2210.22，4.031.0075. 0.424.030.420.0620，2甲（2）由(1)，2的置信水平为95%的置信区间包含1，因此有一定理由假定两个正态总

乙体的方差相等，此时，

s2w22(m1)sx(n1)symn290.2290.421.80.1

1010218查表得F0.975(18)2.1009,故两正态总体均值差的置信水平为95％的置信区间为

101010101.1.622.10090.1,1.1.62.2.10090.1

10101010=0.2271,0.3171

还有另一种解法就是不对方差相等做假设，而采用近似方法求均值差的置信区间，由于

22ss0.040.160.022y2x13 s00.02，lmn10100.0420.1629003150查表得F0.975(13)2.6503,从而两正态总体均值差的置信水平为95%的近似置信区间为 ［1.1.622.65030.02,1.1.62.2.65030.02］=［-0。3548，0。3948] 这二个置信区间相差不算太小，所以在应用中条件“方差相等”是否成立是要加以考证的.