数理统计全集.ppt

对随机现象进行观测、试验，以取得对随机现象进行观测、试验，以取得有代表性的观测值有代表性的观测值 对已取得的观测值进行整理、分析对已取得的观测值进行整理、分析,作出推断、决策作出推断、决策,从而找出所研究的对象从而找出所研究的对象的规律性的规律性数数理理统统计计的的分分类类描述统计学描述统计学推断统计学推断统计学第一节第一节 基本概念基本概念一、总体和个体一、总体和个体二、样本二、样本 简单随机样本简单随机样本一、总体和个体一、总体和个体 一个统计问题总有它明确的研究对象一个统计问题总有它明确的研究对象.研究某批灯泡的质量研究某批灯泡的质量研究对象的全体称为研究对象的全体称为总体总体(母体母体)，组成总体的每个元素称为组成总体的每个元素称为个体个体.总体总体 然而在统计研究中，人们关心总体仅仅是关心然而在统计研究中，人们关心总体仅仅是关心其每个个体的一项其每个个体的一项(或几项或几项)数量指标和该数量指标数量指标和该数量指标在总体中的分布情况在总体中的分布情况.这时，每个个体具有的数这时，每个个体具有的数量指标的全体就是总体量指标的全体就是总体.某批某批灯泡的寿命灯泡的寿命该批灯泡寿命的该批灯泡寿命的全体就是总体全体就是总体国产轿车每公里国产轿车每公里的耗油量的耗油量国产轿车每公里耗油量国产轿车每公里耗油量的全体就是总体的全体就是总体 所研究的对象的某个所研究的对象的某个(或某些或某些)数量指标的全体称为数量指标的全体称为总体总体,它是一个随机变量它是一个随机变量(或多维随机变量或多维随机变量)，记为，记为X.X 的分布函数和数字特征称为总体分布函数的分布函数和数字特征称为总体分布函数和总体数字特征和总体数字特征.总体：总体：例如例如:研究某批灯泡的寿命时，总体研究某批灯泡的寿命时，总体X是这批是这批灯泡的寿命，而其中每个灯泡的寿命就是个体。灯泡的寿命，而其中每个灯泡的寿命就是个体。每个每个灯泡的寿命灯泡的寿命个体个体总体总体国产轿车每公里国产轿车每公里的耗油量的耗油量国产轿车每公里耗油国产轿车每公里耗油量的全体就是总体量的全体就是总体 又如又如:研究某批国产轿车每公里的耗油量时，总研究某批国产轿车每公里的耗油量时，总体体X是这批轿车每公里的耗油量，而其中每辆轿车是这批轿车每公里的耗油量，而其中每辆轿车的耗油量就是个体。的耗油量就是个体。类似地，在研究某地区中学生的营养状况时，类似地，在研究某地区中学生的营养状况时，若关心的数量指标是身高和体重，我们用若关心的数量指标是身高和体重，我们用X和和Y分分别表示身高和体重，那么此总体就可用二维随机变别表示身高和体重，那么此总体就可用二维随机变量量(X,Y)来表示，而每个学生的身高和体重就是个来表示，而每个学生的身高和体重就是个体体.为推断总体分布及各种特征，按一定规则从总为推断总体分布及各种特征，按一定规则从总体中抽取若干个体进行观察试验，以获得有关总体体中抽取若干个体进行观察试验，以获得有关总体的信息，这一抽取过程称为的信息，这一抽取过程称为 “抽样抽样”，所抽取的部，所抽取的部分个体称为分个体称为样本样本.样本中所包含的个体数目称为样本中所包含的个体数目称为样本容量样本容量.二、样本二、样本 简单随机样本简单随机样本1 1）抽样和样本）抽样和样本 样本的抽取是随机的，每个个体是一个随机样本的抽取是随机的，每个个体是一个随机变量变量.容量为容量为n的样本可以看作的样本可以看作n维随机变量，用维随机变量，用X1,X2,Xn表示表示.而一旦取定一组样本，得到的是而一旦取定一组样本，得到的是n个具体的个具体的数数(x1,x2,xn)，称其为样本的一个观察值，简，称其为样本的一个观察值，简称称样本值样本值.2.X1,X2,Xn相互独立相互独立.由于抽样的目的是为了对总体进行统计推断，由于抽样的目的是为了对总体进行统计推断，为了使抽取的样本能很好地反映总体的信息，必须为了使抽取的样本能很好地反映总体的信息，必须考虑抽样方法考虑抽样方法.最常用的一种抽样方法叫作最常用的一种抽样方法叫作“简单随简单随机抽样机抽样”，它要求抽取的样本满足下面两点，它要求抽取的样本满足下面两点:1.样本样本X1,X2,Xn中每一个中每一个Xi与所考察的总体与所考察的总体X有相同的分布有相同的分布.2 2）简单随机样本）简单随机样本 由简单随机抽样得到的样本称为由简单随机抽样得到的样本称为简单随机样简单随机样本本，它可以用与总体独立同分布的，它可以用与总体独立同分布的n个相互独立个相互独立的随机变量的随机变量X1,X2,Xn表示表示.简单随机样本是应用中最常见的情形，今后，简单随机样本是应用中最常见的情形，今后，当说到当说到“X1,X2,Xn是取自某总体的样本是取自某总体的样本”时，若时，若不特别说明，就指简单随机样本不特别说明，就指简单随机样本.设设X1,X2,Xn 是总体是总体X的一个简单随机样本，的一个简单随机样本，1)若若X为离散型总体，其分布律是为离散型总体，其分布律是p(x)，则，则X1,X2,Xn的的联合分布律为联合分布律为p(x1)p(x2)p(xn)2)若若X为连续型总体，其概率密度是为连续型总体，其概率密度是f(x)，则，则X1,X2,Xn的联合分布律为的联合分布律为f(x1)f(x2)f(xn)事实上我们抽样后得到的资料都是具体的、事实上我们抽样后得到的资料都是具体的、确定的值确定的值.如我们从某班大学生中抽取如我们从某班大学生中抽取10人测量人测量身高，得到身高，得到10个数，它们是样本取到的值而不是个数，它们是样本取到的值而不是样本样本.我们只能观察到随机变量取的值而见不到我们只能观察到随机变量取的值而见不到随机变量随机变量.3）总体、样本、样本值的关系）总体、样本、样本值的关系 统计是从手中已有的资料统计是从手中已有的资料 样本值，去推断样本值，去推断总体的情况总体的情况 总体分布总体分布F(x)的性质的性质.总体分布决定了样本取值的概率规律，也就是总体分布决定了样本取值的概率规律，也就是样本取到样本值的规律，因而可以由样本值去推断样本取到样本值的规律，因而可以由样本值去推断总体总体.样本是联系二者的桥梁样本是联系二者的桥梁样本是联系二者的桥梁样本是联系二者的桥梁 4 4）经验分布函数）经验分布函数 设设X1,X2,Xn为取自总体为取自总体X的样本，的样本，x1,x2,xn为其观察值为其观察值.对于每个固定的对于每个固定的x，设事件，设事件Xx在在n次观察中出现的次数为次观察中出现的次数为vn(x)，于是事件，于是事件Xx发生的频率为：发生的频率为：显然显然Fn(x)为不减右连续函数，且为不减右连续函数，且称称 Fn(x)为样本分布函数或经验分布函数为样本分布函数或经验分布函数.定理（格列文科）当定理（格列文科）当n时，经验分布函数时，经验分布函数 Fn(x)依概率依概率1关于关于x一致收敛与总体分布函数，即一致收敛与总体分布函数，即定理表明：定理表明：当样本容量当样本容量n充分大时，经验分布函数充分大时，经验分布函数 Fn(x)几乎一定会充分趋近总体分布函数几乎一定会充分趋近总体分布函数F(x),这是这是用样本来推断总体的理论依据用样本来推断总体的理论依据.第二节第二节 统计量与抽样分布统计量与抽样分布一、统计量一、统计量二、统计学中三个常用分布和上二、统计学中三个常用分布和上分位点分位点三、抽样分布定理三、抽样分布定理一、统计量一、统计量 由样本值去推断总体情况，需要对样本值进行由样本值去推断总体情况，需要对样本值进行“加工加工”，这就要构造一些样本的函数，它把样本，这就要构造一些样本的函数，它把样本中所含的（某一方面）信息集中起来中所含的（某一方面）信息集中起来.定义定义定义定义中不含有任何的未知参数，则称函数中不含有任何的未知参数，则称函数g(X1，X2，,Xn)如果样本如果样本X1，X2，,Xn的函数的函数g(X1，X2，,Xn)为统计量为统计量.g(x1，x2，,xn)为统计量为统计量g(X1，X2，,Xn)的一个的一个若若x1，x2，,xn是相应的样本值，则称函数值是相应的样本值，则称函数值观察值观察值.若若 ,2 已知已知,则则是统计量，是统计量，而而例如：例如：是是X 的一个样本的一个样本,则则不是统计量不是统计量.也是统计量也是统计量.是未知参数是未知参数,几个常用的统计量几个常用的统计量样本均值样本均值样本方差样本方差它反映了总体均值它反映了总体均值的信息的信息它反映了总体方差它反映了总体方差的信息的信息样本样本k阶原点矩阶原点矩样本样本k阶中心矩阶中心矩 k=1,2,它反映了总体它反映了总体 k 阶矩阶矩的信息的信息它反映了总体它反映了总体 k 阶阶中心矩的信息中心矩的信息它们的观察值分别为：它们的观察值分别为：由大数定律可知：由大数定律可知：依概率收敛于依概率收敛于例例1.从一批相同的电子元件中随机地抽出从一批相同的电子元件中随机地抽出8个，测得使用个，测得使用寿命（单位：小时）分别为：寿命（单位：小时）分别为：2300，2430，2580，2400，2280，1960，2460，2000，试计算样本均值、样本方差及，试计算样本均值、样本方差及样本二阶矩样本二阶矩.解：解：抽样分布抽样分布抽样分布抽样分布 统计量是样本的函数，而样本是随机统计量是样本的函数，而样本是随机变量，故统计量也是随机变量，因而就有变量，故统计量也是随机变量，因而就有一定的分布，它的分布称为一定的分布，它的分布称为“抽样分布抽样分布”.二、统计学中三个常用分布和上二、统计学中三个常用分布和上分位点分位点下面介绍三个来自正态总体的抽样分布下面介绍三个来自正态总体的抽样分布.分布分布1、定义定义:设设 相互独立相互独立,都服从标准正态分布都服从标准正态分布N(0,1),则称随机变量：则称随机变量：所服从的分布为自由度为所服从的分布为自由度为 n 的的 分布，记为分布，记为分布的概率密度为分布的概率密度为在在其中其中是函数是函数处的值处的值.n=1n=4n=10f(y)0 1 3 5 7 9 11 13 15 17 x0.50.40.30.20.1有所改变有所改变.分布的概率密度图形如下：分布的概率密度图形如下：显然显然分布的概率密度图形随自由度的不同而分布的概率密度图形随自由度的不同而性质性质1.1.设设则则证证证证 明：明：明：明：设设相互独立相互独立,则则分布的性质：分布的性质：这个性质称为这个性质称为 分布的可加性分布的可加性.性质性质2.2.设设且且与与相互独立，则相互独立，则t 的概率密度为的概率密度为：定义定义:设设XN(0,1),Y Y所服从的分布为自由度为所服从的分布为自由度为 n 的的 t 分布分布.记为记为tt(n).2、t 分布分布，且，且 X 与与 Y 相互相互独立，则称变量独立，则称变量n=4n=10n=1t(x;n)t分布的概率密度函数关于分布的概率密度函数关于t=0对称，且对称，且当当n充分大时充分大时(n30)，其图形与标准正态分布的，其图形与标准正态分布的概率密度函数的图形非常接近概率密度函数的图形非常接近.但对于较小的但对于较小的n，t 分布与分布与N(0,1)分布相差很大分布相差很大.由定义可见，由定义可见，3、F分布分布则称统计量则称统计量服从自由度为服从自由度为n1及及 n2 的的F分布，分布，n1称为第一自由度，称为第一自由度，F(n2,n1)定义定义:设设X 与与 Y 相互独立，相互独立，n2称为第二自由度，记作称为第二自由度，记作 FF(n1,n2).若若XF(n1,n2)，则，则X的概率密度为的概率密度为注意：注意：统计的三大分布的定义、基本性质在后面的统计的三大分布的定义、基本性质在后面的学习中经常用到，要牢记！学习中经常用到，要牢记！4、上、上分位点分位点定义：定义：设随机变量设随机变量X的概率密度为的概率密度为 f(x),对于对于任意给定的任意给定的(01),若存在实数若存在实数x,使得使得：则称点则称点x为该概率分布的上为该概率分布的上分位点分位点正态分布的上正态分布的上分位点分位点 对标准正态分布变量对标准正态分布变量ZN(0,1)和给定的和给定的，上，上 分分位数是由位数是由：PZz =即即 PZ45），），其中其中Z是标准正态分布的上是标准正态分布的上分位点分位点3）对于）对于 t 分布分布a)由其对称性，有：由其对称性，有：b)当当n充分大时（充分大时（n45），），4）对于）对于F分布，有：分布，有：例例2.查表求下列值查表求下列值：解：解：，例例3.设总体设总体X和和Y相互独立，同服从相互独立，同服从分布，而分布，而 X1，X2，,X9 和和 Y1，Y2，,Y9的分布的分布.分别是来自分别是来自X和和Y的简单随机样本，求统计量的简单随机样本，求统计量解：解：X1，X2，,X15是来自是来自X的简单随机样本，的简单随机样本，求求例例4.设总体设总体X服从服从分布，而分布，而的分布的分布.统计量统计量解：解：当总体为当总体为正态分布正态分布时，教材上给出了几个重时，教材上给出了几个重要的抽样分布定理要的抽样分布定理.这里我们不加证明地叙述这里我们不加证明地叙述.三、抽样分布定理三、抽样分布定理定理定理 1 设设X1,X2,Xn是取自正态总体是取自正态总体的样本，则有的样本，则有（1 1）样本均值）样本均值（2 2）样本均值）样本均值 与样本方差与样本方差 相互独立。相互独立。（3 3）随机变量）随机变量定理定理 2 设设X1,X2,Xn是取自正态总体是取自正态总体的样本的样本,分别为样本均值和样本方差分别为样本均值和样本方差,则有则有 定理定理 3(两个总体样本均值差的分布两个总体样本均值差的分布)且且X与与Y独立独立,分别是这两个样本的样本均值分别是这两个样本的样本均值,自自Y的样本的样本,分别是这两个样本的样本方差分别是这两个样本的样本方差,则有则有是取自是取自X的样本的样本,X1,X2,Y1,Y 2,是取是取 定理定理 4(两个总体样本方差比的分布两个总体样本方差比的分布)且且X与与Y独立独立,分别是这两个样本的样本均值，分别是这两个样本的样本均值，Y的样本的样本,分别是这两个样本的样本方差分别是这两个样本的样本方差,则有则有X1,X2,是取自是取自X的样本的样本,Y1,Y2,是取自是取自上述上述4 4个抽样分布定理很重要，要牢固掌握个抽样分布定理很重要，要牢固掌握.的概率不小于的概率不小于90%,90%,则样本容量至少取多少则样本容量至少取多少?例例6.设设,为使样本均值大于为使样本均值大于7070的概率的概率解：解：设样本容量为设样本容量为 n,则则令令得得即即所以至少取所以至少取例例7.从正态总体从正态总体中，抽取了中，抽取了 n=20的样本的样本解：解：(1)(1)即即故故(2)(2)故故3 3 掌握给出的四个抽样分布定理。掌握给出的四个抽样分布定理。第六章第六章 小小 结结1.1.给出了总体、个体、样本和统计量的概念，要掌给出了总体、个体、样本和统计量的概念，要掌2.2.给出了给出了 分布、分布、t t分布、分布、F F分布的定义和性质，要会分布的定义和性质，要会查表求其上查表求其上分位点。分位点。握样本均值和样本方差的计算及基本性质。握样本均值和样本方差的计算及基本性质。附：附：几种重要随机变量的数学期望和方差几种重要随机变量的数学期望和方差一一.二点分布二点分布二二.二项分布二项分布三三.泊松分布泊松分布四四.均匀分布均匀分布五五.正态分布正态分布六六.指数分布指数分布一一.二点分布二点分布X 0 1Pk 1-p p若随机变量若随机变量X服从二点分布，其服从二点分布，其分布律为：分布律为：二二.二项分布二项分布随机变量随机变量XB(n,p),其分布律为：其分布律为：由二项分布定义可知，由二项分布定义可知，X是是n重贝努利试验中事件重贝努利试验中事件A发发生的次数，且在每次试验中生的次数，且在每次试验中A发生的概率为发生的概率为p，设，设则则Xk服从二点分布，其分布律为：服从二点分布，其分布律为：X 0 1Pk 1-p p若随机变量若随机变量XB(n,p),则则即：即：三三.泊松分布泊松分布随机变量随机变量 ，其分布律为：，其分布律为：即：即：若随机变量若随机变量X(),则则四四.均匀分布均匀分布设随机变量设随机变量X在区间在区间(a,b)上服从均匀分布，其概率上服从均匀分布，其概率密度为密度为即即若随机变量若随机变量XU(a,b),则则五五.正态分布正态分布随机变量随机变量 ，其概率密度为：，其概率密度为：（令（令 ）（令（令 ）即即若随机变量若随机变量XN（,2）,则则六六.指数分布指数分布随机变量随机变量X服从参数为服从参数为的指数分布的指数分布，其概率密度为：，其概率密度为：若随机变量若随机变量X服从参数为服从参数为的指数分布的指数分布，则，则即即例例1.已知已知 求求 解：解：则则解：解：X在区间在区间(1，5)上服从均匀分布上服从均匀分布,例例2.已知已知X和和Y相互独立，且相互独立，且X在区间在区间(1，5)上服从上服从均匀分布，均匀分布，求求(1)(X,Y)的概率密度的概率密度;(2)由由X和和Y相互独立得：相互独立得：概率论中用来阐明大量随机现象平均概率论中用来阐明大量随机现象平均结果的稳定性的一系列定理，称为大数定结果的稳定性的一系列定理，称为大数定律律第一节第一节 大数定律大数定律一个常数，若对于任给的正数一个常数，若对于任给的正数 0,0,总成立总成立随机变量序列依概率收敛于常数随机变量序列依概率收敛于常数定义定义设设是一个随机变量序列，是一个随机变量序列，a 是是则称则称 随机变量随机变量 序列序列依概率收敛于依概率收敛于a，记为记为性质性质1.设设，g（x）是连续是连续函数，则函数，则2.设设g（x,y）是二元连续函数，则是二元连续函数，则 设设n重贝努里试验中事件重贝努里试验中事件A发生的次数为发生的次数为n，A在在每次试验中发生的概率为每次试验中发生的概率为 p，则对任给的，则对任给的0，总成，总成立立定理定理定理定理1 1 1 1（贝努利大数定律）（贝努利大数定律）（贝努利大数定律）（贝努利大数定律）即：即：三个常见的大数定律三个常见的大数定律贝努里大数定律的意义贝努里大数定律的意义在概率的统计定义中在概率的统计定义中,事件事件A 发生的频率发生的频率 “稳定于稳定于”事件事件A 在一次试验中发生的概率是指：频率在一次试验中发生的概率是指：频率 与与 p有较大偏差有较大偏差大时可以用频率近似代替大时可以用频率近似代替 p.是小概率事件是小概率事件,因而在因而在 n 足够足够 贝努里大数定律提供了通过试验来确定事件概率的贝努里大数定律提供了通过试验来确定事件概率的方法方法.定理定理定理定理2 2 2 2（契比雪夫大数定律的特殊情形）（契比雪夫大数定律的特殊情形）（契比雪夫大数定律的特殊情形）（契比雪夫大数定律的特殊情形）设随机变量序列设随机变量序列X1,X2,相互独立，并且具有相同相互独立，并且具有相同的数学期望和方差，的数学期望和方差，E(Xi)=，D(Xi)=2,i=1,2,则对则对任给的任给的0，总成立，总成立即即定理定理2的意义的意义 具有相同数学期望和方差的独立随机变量序列的算术具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望平均值依概率收敛于数学期望.当当 n 足够大时足够大时,实验结实验结果的算术平均几乎是一常数果的算术平均几乎是一常数.因此，在实际应用中，当试验次数因此，在实际应用中，当试验次数足够大时足够大时,可用可用独立重复试验结果的独立重复试验结果的算术平均数来估计随机变量的算术平均数来估计随机变量的数学期望数学期望.定理定理定理定理3 3 3 3（契比雪夫大数定律的一般情形）（契比雪夫大数定律的一般情形）（契比雪夫大数定律的一般情形）（契比雪夫大数定律的一般情形）设随机变量序列设随机变量序列X1,X2,相互独立，它们都具有数相互独立，它们都具有数学期望：学期望：E(Xi)=i，并且都，并且都具有被同一常数具有被同一常数C所限制的所限制的方差：方差：D(Xi)=0 0，总成立，总成立即即接近于其数学接近于其数学期望的算术平均的概率接近于期望的算术平均的概率接近于1.1.即当即当n充分大时，充分大时，差不多不再是随机的了，取值差不多不再是随机的了，取值定理定理3的意义的意义 定理表明，独立随机变量序列定理表明，独立随机变量序列Xn，如果方差有共，如果方差有共与其数学期望与其数学期望小的概率接近于小的概率接近于1.1.同的上界，则同的上界，则偏差很偏差很 设随机变量序列设随机变量序列X1,X2,相互独立，服从同一分布，相互独立，服从同一分布，具有相同的数学期具有相同的数学期 望望E(Xi)=,i=1,2,，则对于任给则对于任给正数正数 0，总成立，总成立定理定理定理定理4 4 4 4（辛钦大数定律）（辛钦大数定律）（辛钦大数定律）（辛钦大数定律）即即推论推论推论推论 设随机变量序列设随机变量序列X1,X2,相互独立，服从同一相互独立，服从同一分布，且具有相同的分布，且具有相同的k 阶矩阶矩则对任给正数则对任给正数0 0，总成立，总成立即即这一节我们介绍了大数定律这一节我们介绍了大数定律大数定律以严格的数学形式表达了随机现象最根本大数定律以严格的数学形式表达了随机现象最根本的性质之一：的性质之一：它是随机现象统计规律的具体表现它是随机现象统计规律的具体表现.在理论和实际中在理论和实际中都有广泛的应用都有广泛的应用.平均结果的稳定性平均结果的稳定性第二节第二节 中心极限定理中心极限定理 客观背景：客观背景：客观实际中，许多随机变量是由大量客观实际中，许多随机变量是由大量相互独立的偶然因素的综合影响所形成，每一个微小相互独立的偶然因素的综合影响所形成，每一个微小因素，在总的影响中所起的作用是很小的，但总起来，因素，在总的影响中所起的作用是很小的，但总起来，却对总和有显著影响，这种随机变量往往近似地服从却对总和有显著影响，这种随机变量往往近似地服从正态分布。正态分布。概率论中有关论证独立随机变量的和的极限分布是概率论中有关论证独立随机变量的和的极限分布是正态分布的一系列定理称为中心极限定理。正态分布的一系列定理称为中心极限定理。由于无穷个随机变量之和可能趋于由于无穷个随机变量之和可能趋于，故我，故我们不研究们不研究n个随机变量之和本身而考虑它的标准化个随机变量之和本身而考虑它的标准化的随机变量的随机变量的极限分布的极限分布.下面介绍常用的三个中心极限定理。下面介绍常用的三个中心极限定理。定理定理定理定理1 1 1 1（独立同分布下的中心极限定理）（独立同分布下的中心极限定理）（独立同分布下的中心极限定理）（独立同分布下的中心极限定理）设设X1,X2,是独立同分布的随机变量序列，且是独立同分布的随机变量序列，且E(Xi)=，D(Xi)=2，i=1,2,，则，则 定理表明：定理表明：当当n充分大时，标准化随机变量充分大时，标准化随机变量近似服从标准正态分布近似服从标准正态分布.由此可知：由此可知：对于独立的随机变量序列对于独立的随机变量序列 ，不管不管 服从什么分布，只要它们是同服从什么分布，只要它们是同分布，且有有限的数学期望和方差，那么，当分布，且有有限的数学期望和方差，那么，当n n充充分大时，这些随机变量之和分大时，这些随机变量之和 近似地服从正态近似地服从正态分布分布(1)(1)至少命中至少命中180发炮弹的概率发炮弹的概率;(2)(2)命中的炮弹数不到命中的炮弹数不到200发的概率发的概率.例例1.1.炮火轰击敌方防御工事炮火轰击敌方防御工事 100 次次,每次轰击命中每次轰击命中的炮弹数服从同一分布的炮弹数服从同一分布,其数学期望为其数学期望为 2,均方差均方差为为1.5.若各次轰击命中的炮弹数是相互独立的若各次轰击命中的炮弹数是相互独立的,求求100 次轰击中次轰击中解：解：设设 X k 表示第表示第 k 次轰击命中的炮弹数，次轰击命中的炮弹数，设设 X 表示表示100次轰击命中的炮弹数次轰击命中的炮弹数,则则由独立同分布中心极限定理由独立同分布中心极限定理,有有则则相互独立，相互独立，又又(1)(2)例例2.一食品店有三种蛋糕出售，由于售出哪一种蛋糕一食品店有三种蛋糕出售，由于售出哪一种蛋糕是随机的，因而售出一只蛋糕的价格是一个随机变是随机的，因而售出一只蛋糕的价格是一个随机变量，它取量，它取1(元元)，1.2(元元)，1.5(元元)各值的概率分别为各值的概率分别为0.3，0.2，0.5.某天售出某天售出300只蛋糕只蛋糕.求这天的收入至少求这天的收入至少达达400(元元)的概率的概率解：解：设第设第i只蛋糕的价格为只蛋糕的价格为Xi，i=1,2,300,则则Xi的分的分布律为布律为P 1 1.2 1.5Xi 0.3 0.2 0.5由独立同分布中心极限定理知：由独立同分布中心极限定理知：即即定理定理定理定理2(2(2(2(德莫佛拉普拉斯中心极限定理）德莫佛拉普拉斯中心极限定理）德莫佛拉普拉斯中心极限定理）德莫佛拉普拉斯中心极限定理）设设n重贝努利试验中事件重贝努利试验中事件A发生的次数为发生的次数为n,事事件件A在每次试验中发生的概率为在每次试验中发生的概率为p,则对于任给实数则对于任给实数x,总成立总成立 定理表明：定理表明：若若 服从二项分布，当服从二项分布，当n很大时，很大时，近似服从标准正态近似服从标准正态的标准化随机变量的标准化随机变量 由此可知：当由此可知：当n很大，很大，0p0,求求，的矩估计的矩估计.解解:令令解得解得用样本矩估计用样本矩估计总体矩总体矩由课文本节例由课文本节例1 1知：知：不论总体为何分布，总体均值的矩估计量总是不论总体为何分布，总体均值的矩估计量总是总体方差的矩估计量总是总体方差的矩估计量总是例例4.4.设从某灯泡厂某天生产的灯泡中随机设从某灯泡厂某天生产的灯泡中随机抽取抽取1010只灯泡，测得其寿命为只灯泡，测得其寿命为(单位单位:小时小时)1050,1100,1080,1120,1200，1250,1040,1130,1300,1200，试用矩法估计该厂这天生产的试用矩法估计该厂这天生产的灯泡的平均寿命及寿命分布的方差灯泡的平均寿命及寿命分布的方差.解：解：7-14 二、二、极大似然估计法极大似然估计法 即：在一次试验中，概率最大的事件最有可能发生即：在一次试验中，概率最大的事件最有可能发生.引例引例:有两个外形相同的箱子有两个外形相同的箱子,各装各装100100个球，一箱中个球，一箱中取得的球是白球取得的球是白球.问问:所取的球来自哪一箱？所取的球来自哪一箱？答答:第一箱第一箱.中有中有9999个白球个白球1 1个红球，一箱中有个红球，一箱中有1 1个白球个白球9999个红球。个红球。现从两箱中任取一箱现从两箱中任取一箱,并从箱中任取一球并从箱中任取一球,结果所结果所 一般说，若事件一般说，若事件A发生的概率与参数发生的概率与参数 有关，有关，取值不同，取值不同，P(A)也不同。则应记也不同。则应记事件事件A发生的概发生的概率为率为P(A|).若一次试验，事件若一次试验，事件A发生了，可认为此发生了，可认为此时的时的 值应是在值应是在 中使中使P(A|)达到最大的那一个达到最大的那一个。这就是这就是极大似然原理极大似然原理极大似然原理极大似然原理.（极大似然原理）（极大似然原理）极大似然估计法的理论依据：极大似然估计法的理论依据：X1,X2,Xn是取自总体是取自总体X的样本，的样本，x1,x2,xn是样本值是样本值.则则样本的联合分布律为：样本的联合分布律为：似然函数：似然函数：似然函数：似然函数：其中其中为为未知待估参数，未知待估参数，1.X是是离散型总体，其分布律为离散型总体，其分布律为:记记2.X是是连续型总体，其概率密度为连续型总体，其概率密度为 为其样本的似然函数为其样本的似然函数.则称则称称称为样本的似然函数为样本的似然函数.似然函数似然函数的值的大小实质上反映的是的值的大小实质上反映的是该样本值出现的可能性大小该样本值出现的可能性大小.极大似然估计的极大似然估计的方法：方法：对于给定的样本值对于给定的样本值x1,x2,xn，选取，选取使得其使得其似然函数似然函数达到最大值。即求达到最大值。即求使得使得7-22称为未知参数称为未知参数 1,k 的的极大似然估计值极大似然估计值这样得到的估计值这样得到的估计值对应的统计量对应的统计量称为未知参数称为未知参数 1 1,k k 的的 极大似然估计量极大似然估计量(1)(1)由总体分布和所给样本，求得似然函数由总体分布和所给样本，求得似然函数步骤：步骤：(2)2)求似然函数求似然函数的对数函数函数的对数函数函数（化积商为和差，而（化积商为和差，而和和同时取得最大值）同时取得最大值）(3)(3)解方程组解方程组LLLLLLLLLLLLLL7-12(4)(4)得未知参数得未知参数 1 1,k k的极大似然估计值的极大似然估计值及其对应的极大似然估计量及其对应的极大似然估计量7-12 若待估参数只有一个，则似然函数是一元若待估参数只有一个，则似然函数是一元函数函数L()，此时，只须将上述步骤中求偏导改为，此时，只须将上述步骤中求偏导改为求导即可。求导即可。说明：说明：例例5.5.设总体设总体X 服从参数为服从参数为的泊松分的泊松分布，求参数布，求参数 的极大似然估计量的极大似然估计量解：解：的样本，样本观察值为的样本，样本观察值为由由X 服从泊松分布，得服从泊松分布，得X的分布律为的分布律为为从总体为从总体X中随机抽取中随机抽取设设似然函数为似然函数为两边取对数，得两边取对数，得=0得得对对 求导求导，并令其为，并令其为0 0，所以参数所以参数 的极大似然估计量为：的极大似然估计量为：，其中其中 0 0总体总体X 的样本值，求参数的样本值，求参数 的极大似然估计值的极大似然估计值.例例6.6.设总体设总体X的概率密度为的概率密度为为待估参数，为待估参数，a a00是已知常数，是已知常数，是取自是取自解解:两边取对数，得两边取对数，得对对 求导求导,并令其为并令其为0 0，得得这就是这就是 的极大似然估计值的极大似然估计值.其中其中 是未知参数是未知参数，3，1，3，0，3，1，2，3，是来自总体是来自总体X的样本观察值的样本观察值,求参数求参数 的极大似然的极大似然估计值估计值.例例7.7.设总体设总体X的分布律的分布律解：解：两边取对数，得两边取对数，得对对 求导求导，并令其为，并令其为0 0，=0得得和和因为因为不合题意，不合题意，所以所以 的极大似然估计值为的极大似然估计值为 1.1.可证明极大似然估计具有下述性质：可证明极大似然估计具有下述性质：设设 的函数的函数g=g()是是 上的实值函数上的实值函数,且有唯一反且有唯一反函数函数.如果如果 是是 的极大似然估计，则的极大似然估计，则g()也是也是g()的极大似然估计的极大似然估计.关于极大似然估计的两点说明：关于极大似然估计的两点说明：此性质称为此性质称为极大似然估计的不变性极大似然估计的不变性例例8.设设X1 X2，Xn为取自参数为为取自参数为 的指数分布的指数分布总总体的样本，体的样本，a0为一给定实数。求为一给定实数。求p=PXa的极大似的极大似然估计然估计解：解：概率密度和分布函数分别为概率密度和分布函数分别为由总体由总体X服从参数为服从参数为 的指数分布的指数分布知，知，X 的的两边取对数，得两边取对数，得对对 求导求导，并令其为，并令其为0 0，得得 的极大似然估计值为的极大似然估计值为 因为因为所以，所以，p=PXa的极大似然估计值为的极大似然估计值为2 2、当似然函数不是可微函数时，须用极大似、当似然函数不是可微函数时，须用极大似然原理来求待估参数的极大似然估计然原理来求待估参数的极大似然估计.例例9.设设 X U(a,b),x1,x2,xn 是是 X 的一个样本的一个样本值值,求求 a,b 的极大似然估计值与极大似然估计量的极大似然估计值与极大似然估计量.解：解：由由X U(a,b)知，知，X 的密度函数为的密度函数为似然函数为似然函数为似然函数只有当似然函数只有当 a xi b,i=1,2,n 时才能获得最时才能获得最大值大值,且且 a 越大越大,b 越小越小,L（a，b）越大越大.令令xmin=min x1,x2,xnxmax=max x1,x2,xn取取则对满足则对满足的一切的一切 a 1).证明证明所以所以因而因而所以所以 不是不是 D(X)的无偏估计量的无偏估计量;所以所以 是是 D(X)的无偏估计量的无偏估计量.例例3.已知泊松总体已知泊松总体，验证样本方差，验证样本方差是是的无偏估计，并对于任一值的无偏估计，并对于任一值 也是也是的无偏估计的无偏估计.由总体为由总体为知：知：证明：证明：由上例可知：由上例可知：所以样本方差所以样本方差是是的无偏估计的无偏估计又又则则所以所以也是也是的无偏估计的无偏估计.由上例我们可知，一个未知参数有时会有多个无由上例我们可知，一个未知参数有时会有多个无偏估计，这就又产生了一个问题：哪一个无偏估计偏估计，这就又产生了一个问题：哪一个无偏估计量更优呢？量更优呢？设设 和和 都是都是 的无偏估计量，即两个估计量的无偏估计量，即两个估计量小的那一个，这就有了小的那一个，这就有了有效性有效性的衡量标准的衡量标准.和和 都围绕着都围绕着波动，我们自然选择波动幅度波动，我们自然选择波动幅度都是总体参数都是总体参数 的无偏估计量的无偏估计量,且且则称则称 比比 更有效更有效.设设二、有效性二、有效性定义定义（2）试判断）试判断g1和和g2哪一个更有效？哪一个更有效？例例4.已知总体的数学期望已知总体的数学期望 和方差和方差 都存在，都存在，X1，X2，X3是总体的样本是总体的样本.设设（1）证明）证明g1和和g2都是都是 的无偏估计的无偏估计解：解：(1)所以，所以，g1 和和g2 2 都都是是 的无偏估计的无偏估计(2)因为因为所以所以g1较较g2更有效更有效.(2)求常数求常数 k1和和 k2，使得它在所有形如，使得它在所有形如的无偏估计量中方差最小的无偏估计量中方差最小.(1)常数常数k1和和k2为何值时，为何值时，也是也是 的无的无偏估计量偏估计量.例例5.设设 和和 是参数是参数 的两个相互独立的无偏估计量，的两个相互独立的无偏估计量，且且 的方差为的方差为 的方差的两倍的方差的两倍.解：解：由题意知：由题意知：(1)令令得得(2)罗罗克拉美克拉美（Rao Cramer）不等式不等式若若是参数是参数 的无偏估计量的无偏估计量,则则其中其中 p(x,)是是 总体总体 X 的分布律或概率密度，称的分布律或概率密度，称计量计量,此时称此时称 为最有效的估计量为最有效的估计量,简称有效估计量简称有效估计量.为方差的下界为方差的下界.当当 时时,称称 为为 的的达到方差下界的无偏估达到方差下界的无偏估例例6.设设（0-1）总体中参数总体中参数 p为未知，证明为未知，证明是参数是参数 p 的无偏、有效估计量的无偏、有效估计量.证明：证明：因为总体因为总体X是是（0-1）分布，即：分布，即：而而 所以所以是参数是参数 p 的无偏估计量的无偏估计量且且 又又 所以所以是参数是参数 p 的有效估计量的有效估计量 参数参数 的估计量是样本的函数，与样本容量的估计量是样本的函数，与样本容量n 有有关，我们当然希望，样本容量关，我们当然希望，样本容量n 越大越大，估计量与估计量与参数参数 的真值的偏差越小的真值的偏差越小的真值的偏差越小的真值的偏差越小.这就这就有了有了一致性一致性的衡量标准的衡量标准.三、一致性三、一致性设设 是总体参数是总体参数 的估计量的估计量.则称则称是总体参数是总体参数 的一致的一致(或相合或相合)估计量估计量.若对于任意的若对于任意的 ,当当n 时时,依概率收敛于依概率收敛于 ,定义定义即对于任意正数即对于任意