统计学第四课：参数估计

参数估计是在样本统计量概率分布的基础上，根据样本信息，推断总体参数。总体参数用θ表示，用于估计参数的统计量用θ上加一个 ^ 表示，θ^也称为估计量，根据一个具体的样本计算出来的估计量的数值成为估计值。

参数估计的方法

方法有两种：点估计、区间估计。

点估计

点估计指的是用估计量的某个取值，作为总体参数θ的估计值。比如用样本均值作为总体均值的估计值，用样本比例作为总体比例的估计值等等。再比如，某个产品的样本良品率是97%，将97%作为这一批产品的良品率。

所以你可以看到，点估计的估计可靠性一般，因为依赖于估计量的可靠性，估计量的可靠性是有其抽样分布的标准误来衡量的。这么一来，无法说出点估计值与总体参数的真实值接近程度，我们就需要找其他的解决办法，比如围绕估计值构造一个总体参数的区间。

区间估计

区间估计是在点估计的基础上得到总体参数的一个估计区间，通常区间是由样本统计量±估计误差得来。进行区间估计时，根据样本统计量的抽样分布，可以对统计量与筒体参数的接近程度给出一个概率度量。

实际情况，样本均值已知总体均值未知，我们求的就是总体均值。可以理解为，总体均值在样本均值的两侧对称分布，所以我们可以利用标准误估计总体均值在多少个标准误内可以作为总体均值的置信区间。
置信区间说的就是，在区间估计中，由于样本估计量构造出的总体参数在一定置信水平下的估计区间。其中最小值成为区间下限，最大值成为区间上限。我们有哪个百分数将区间划分成100份，95%称为置信水平（也就是距离样本均值±1.96个标准误的距离），在这个置信区间中包含总体参数真值次数所占的比例是置信水平，或成为置信度、置信系数。
-置信区间告诉我们在多次估计得到的区间中，大概有多少个区间包含参数的真值；
-实际运用中过宽的区间意义不大，过窄区间容易漏掉真值；
总体参数真值固定，样本区间数量不固定；

评价估计量的标准

用于估计总体参数的估计量θ^有很多，什么样的估计量算比较好的呢？

无偏性

无偏性说的是：估计量抽样分布的期望值=被估计的总体参数。现在有所选估计量的θ^， 总体参数θ，如果E(θ^ )=θ，则θ^是θ的无偏估计量。

效性

有效性指的是估计量的方差大小。表示了估计量接近总体参数的程度，同一个总体的无偏估计量有非常多个，离散最小的则是最好的。

【例】
从均值为0、方差为1的总体抽取10000个样本量为10的样本：
1）计算样本均值方差和样本中位数方差；
2）进行无偏性和有效性度量模拟；

# 创建向量test，利用R语言解答需要用到循环语法：
#基本语法
# for (变量 in 条件) {
#    循环体
# }
test<-c(1,2,5,7,9)
for (i in test) {
  print(i)
}
无偏估计的算法：
# vector函数能创建一个指定类型和长度的矢量，比如vector("numeric",2)。
#  rnorm(统计量, 平均数, 标准差)。
# append为给向量添加元素的函数，append(要添加到哪个向量上, 要添加的元素是什么, after = length(x)从目标向量的第几个元素后添加)，如果不指定after，则从目标向量的最后一个数字后添加。

# 创造可以制定长度和类型的三个变量对象
x<-vector();m<-vector();v<-vector()

# 设置样本量为10
n=10

# 变量i按照条件1~10000进行循环，每次循环的数据需要满足统计量为10、样本均值为0、标准方差为1 的d数据
# 接下来的每一次循环所得的数据将给x、m、v分别追加：为x对象追加d数据的均值；为m对象追加d数据的中位数；为v对象追加d数据的方差。
for (i in 1:10000) {
  d<-rnorm(n,0,1)
  x<-append(x,mean(d))
  m<-append(m,median(d))
  v<-append(v,var(d))
}

# 计算x、m、v各自的平均值，并组合成数据框输出
data.frame(mean(x),mean(m),mean(v))

通过上面的例子的结果可以看出：

  • 无偏估计中，对样本均值、样本方差、样本中位数取平均值进行比较，结果都近似于总体均值。总体方差、总体中位数；


有效性的算法：
#接下来循环同样的数据，但重新命名变量；
x1<-vector();m1<-vector();v1<-vector()
n=10
for (i in 1:10000) {
  d1<-rnorm(n,0,1)
  x1<-append(x1,mean(d1))
  m1<-append(m1,median(d1))
  v1<-append(v1,var(d1))
}
# 循环后的样本计算他们的方差，进行对比
data.frame(var(x1),var(m1),var(v1))

通过上面的例子的结果可以看出：

  • 检验有效性时，采用了另一组同样分布的数据变量，比较样本均值、样本方差、样本中位数的方差，发现样本均值的方差数字最小，所以是表现更有效的估计量。

一致性

一致性指的是随着样本量无限增大，统计量会最终收敛于所估总体的参数内。也就是说，大样本的估计量更加接近总体参数。

# set.seed生成随机数，括号里的数据代表生成的是第几次随机数
set.seed(12)

# 变量N是：“样本量为1000，均值为50，标准差为10”的一组数据
N=rnorm(1000,50,10)
mu=mean(N)

# sample为抽样函数，sample(从什么总体中抽样，抽样的次数，有无放回T代表有放回)
x10<-mean(sample(N,10,replace = F))
x100<-mean(sample(N,100,replace = F))
x500<-mean(sample(N,500,replace = F))
x900<-mean(sample(N,900,replace = F))

data.frame(总体均值=mu,x10,x100,x500,x900)

通过上面的例子的结果可以看出：

  • 抽样字数越多，最终的样本参数约接近总体参数。

总体均值的区间估计

研究总体时，推断总体均值的统计量就是样本均值，研究两个总体时，关心的参数是两个总体均值的差值，用于推断的统计量则是两个样本的均值之差。

一个总体均值的估计

在对一个总体均值进行区间估计时，需要考虑抽取样本的总体是否是正态分布、总体方差是否已知、用于估计的样本是否为大样本（n≥30）还是小样本。
总体均值的置信区间都是由样本均值甲减估计误差得到的。所以估计误差有两部分组成：点估计的标准误、估计所要求的的置信水平为（1-α）时，统计量分布两侧面积各位α/2时的分位数值。因此，总体均值在（1-α）置信水平下的置信区间可以表达为：
样本均值 ±（分位数 * 样本均值的标准误）

1、大样本估计

由中心极限定理可知，样本均值近似服从期望值为μ，方差为σ^2/n的正态分布。样本均值标准化后得服从标准正态分布，z=（x拔-μ）/（σ/开方n）~N(0,1)。

若总体标准差σ已知，标准化时使用σ；
若σ未知，则用样本标准差s代替。
因此，可以有正态分布构建总体均值在（1-α）置信水平下的置信区间为：


image.png

当总体方差未知时，上述公式的σ替换成s，这是总体均值μ在（1-α）置信水平下的置信区间为：


image.png
install.packages("BSDA","lattice")
library(BSDA,lattice)

library(readr)
oil5<-read.csv("/Users/ayu/Downloads/example5_1.csv",header = T)

# z.test()用于标准正太分布的单样本和双样本的置信区间和假设检验。
# y=NULL用于单样本，sigama.x=sd(数据)，sigama.y=sd(数据)用于指定两个总体的标准差
# 如果总体标准差未知，使用样本标准差代替；
# conf.level用于指定置信水平，如果不给则默认是0.95
z.test(oil5$耗油量,y=NULL,sigma.x=sd(oil5$耗油量),conf.level=0.90)

# 只出区间信息
z.test(oil5$耗油量,y=NULL,sigma.x=sd(oil5$耗油量),conf.level=0.90)$conf.int



#上述代码输出结果

One-sample z-Test   # 单一样本的z检验

data:  oil5$耗油量  #计算的数据对象和对象中哪一个变量

z = 99.575, p-value < 2.2e-16 # Z值=99.575，p值小于2.2*10的负16次方（一般p值小于用户定的显著性水平，就拒绝原假设）

alternative hypothesis: true mean is not equal to 0 # 
替代假设：真实均值不等于0

95 percent confidence interval:  # 95%的置信区间是7.810673到8.124327
 7.810673 8.124327

sample estimates:  # 样本估计的均值是7.9675 ,取了均值置信区间值的平均数
mean of x 
   7.9675
2、小样本估计

在小样本情形下（n<30），对总体均值的估计都是建立在总体服从正态分布的假设前提下。

  • 如果正态总体的方差已知，样本经过标准化后仍然服从标准正态分布此时可以使用下图进行估计总体均值的置信区间：
    image.png

  • 如果正态总体方差未知，样本均值经过标准化后服从自由度为n-1的t分布，即：
    image.png

    这时候，需要使用t分布构建总体均值的置信区间，在（1-α）置信水平下，总体均值的置信区间为：


    image.png

    【例】
    计算某个随机25个样本的重量，假设25个重量是服从正态分布，那么这一批样本的平均重量在置信水平在95%下的置信区间是？
 s1<-read.csv("/Users/ayu/Downloads/example5_2.csv",header = TRUE)
 t.test(s1,conf.level = 0.95)

#只输出区间信息
t.test(s1)$conf.int


两个总体均值之差的估计

设有两个总体均值μ1、μ2。从两个总体中分别抽取样本量为n1、n2的两个随机样本。均值为x1拔、x2拔。
估计两个总体均值之差的点估计量显然是两个样本的均值之差，也就是（μ1-μ2）=（x1拔-x2拔）
估计原理与一个总体均值的区间估计类似。两个总体均值之差在（1-α）的置信水平下的置信区间可以表示为：


image.png
1、独立大样本的估计

如果两个样本是从两个总体中独立抽取的，即一个样本中的元素与另一个样本中的元素相互独立，这就是独立样本。
如果两个样本都为大样本，那么两个样本均值之差近似服从期望值为（μ1-μ2）、方差为（σ1^ 2/n1+σ2^ 2/n2）的正态分布，两个样本均值之差经过标准化后侧服从标准正态分布：

image.png

  • 当两个总体方差已知时，两个总体均值之差的在置信水平（1-α）下的置信区间是：


    image.png

  • 当两个总体方差未知时，可用两个样本方差来代替，这时候两个总体均值之差在置信水平（1-α）下的置信区间是：


    image.png

【例】
研究男女的工资差异，选取男女工资各40人的随机工资样本，建立男女平均工资之差的95%置信区间。

library(BSDA)
# mu表示原假设所指定的平均值或平均值差值的单个数字
z.test(s2$男性工资,s2$女性工资,mu=0,sigma.x =sd(s2$男性工资) ,sigma.y = sd(s2$女性工资))$conf.int


2、独立小样本的估计

当两个样本都是独立小样本时，估计两个总体均值之差需要假设两个总体都服从正态分布。

  • 当两个总体方差已知时，两个样本均值之差经过标准化后服从标准正态分布，此时可以按照下图建立两个总体均值之差的置信区间：
image.png

  • 当两个总体方差未知时有以下两个场景：
    1）两个总体方差未知但相等时，需要用两个样本的方差来估计总体方差，此时需要把两个样本合并到一起，用以得到总体方差西格玛方的估计量，估计量为下述公式：


    image.png

    这时候，两个样本均值之差经过标准化后服从自由度为（n1-n2-2）的t分布，也就是下图的样子：


    image.png

    2）当两个总体的方差未知且不相等时，两个样本均值之差经过标准化后浸塑服从自由度为v的t分布，自由度为v的计算公式为：
    image.png

    两个总体均值之差在在置信水平（1-α）下的置信区间是：
    image.png

【例】
如果有两组方法进行组装产品，分别记录同样的12个工人分别组装，得到两个方法各12个组装时间。假定组装时间都是服从正态分布的，计算：
1）如果两个总体方差相等，方法的样本均值差，在95%的置信区间是多少？
2）如果两个总体方差不等，方法的样本均值差，在90%的置信区间是多少？

ts<-read_csv("/Users/ayu/Downloads/example5_4.csv")

# 假设方差是相等的，平均时间差的95%置信区间
t.test(x=ts$方法一,y=ts$方法二,var.equal = TRUE)$conf.int

# 假设方差是不等的，平均时间差的95%置信区间
t.test(x=ts$方法一,y=ts$方法二,var.equal = FALSE,conf.level=0.90)$conf.int


3、配对样本的估计

用两个独立样本估计两个总体均值之差时有独立的弊端，比如偶尔会将某些不不好的参数抽样到一起，这时候，两个样本的对比会显得不公平。配对样本估计就是解决这类问题：也就是一个样本中的数据与两一个样本中的数据相对应，这样的数据通常是对同一个体所做的前后两次的测量。比如，前指定某10个人用第一种工具组装产品，再让这10个人用第二种工具组装产品，得到两种工具组装产品的总工时数据，这就是配对数据。
使用配对样本进行估计时，在大样本条件下，两个总体均值之差μd=μ1-μ2，在（1-α）置信水平下的置信区间为：


image.png

其中，d表示两个配对数据的差值，d拔表示个差值的均值，σd表示各个差值的标准差，当总体σd未知时，可用样本差值sˇd来替代。
在小样本情形下，假定两个总体各观察值的配对差服从正态分布，两个总体均值之差μd=μ1-μ2，在（1-α）置信水平下的置信区间为：


image.png
# paired逻辑指示，表示是否需要配对t检验
library(readr)
e5<-read.csv("文件路径地址",header = TRUE)
t.test(e5$试卷A,e5$试卷B,paired = TRUE)$conf.int

总体比例的区间估计

一个总体比例的估计

1. 大样本的估计方法
#计算一个总体比例的置信区间（大样本）

#赞成比例的95%的置信区间
n<-500
x<-325
p<-x/n
q<-qnorm(0.975)
LCI<-p-q*sqrt(p*(1-p)/n)
UCI<-p-q*sqrt(p*(1-p)/n)
data.frame(LCI,UCI)

#使用Hmisc包得到三种不同方法的区间
install.packages("Hmisc")
library(Hmisc)
n<-500
x<-325
binconf(x,n,alpha=0.05,method="all")
2. 任意大小样本的估计方法
#计算一个总体比例的置信区间（任意大小样本）

#赞成比例的95%的置信区间
n1<-500+4
p1<-(325+2)/n1
q<-qnorm(0.975)
LCI<-p1-1*sqrt(p1*(1-p1)/n1)
UCI<-p1+1*sqrt(p1*(1-p1)/n1)
data.frame(LCI,UCI)

两个总体比例之差的估计

两个总体之差的估计需要考虑样本来那个的大虾，如果两个样本量都非常大，可以采用传统的估计方法，如果两个样本量是中等大小或者比较小，，需要对样本量和实验成功次数做出修正以改进估计的区间。

1. 两个大样本的估计方法

两个总体比例之差的区间估计原理与一个总体比例的区间估计相同。

#随机调查500个女性收看节目有225人
#随机抽查了400个男性，收看节目有128人
#用95%置信水平估计女性与男性收视率差值的置信区间。
p1<- 225/500;p2<-128/400
q<-qnorm(0.975)
LCI<-p1-p2-q*sqrt(p1*(1-p1)/500+p2*(1-p2)/400)
UCI<-p1-p2+q*sqrt(p1*(1-p1)/500+p2*(1-p2)/400)
data.frame(LCI,UCI)
2. 两个任意大小样本的估计方法
#随机调查500个女性收看节目有225人
#随机抽查了400个男性，收看节目有128人
#用95%置信水平估计女性与男性收视率差值的置信区间。
n1<-500+2;n2<-400+2
p1<- (225+1)/n1;p2<-(128+1)/n2
q<-qnorm(0.975)
LCI<-p1-p2-q*sqrt(p1*(1-p1)/n1+p2*(1-p2)/n2)
UCI<-p1-p2+q*sqrt(p1*(1-p1)/n1+p2*(1-p2)/n2)
data.frame(LCI,UCI)

总体方差的区间估计

一个总体方差的估计

估计中体方差是，首先假定总体服从正态分布，其原理与总体均值和总体比例的区间估计不同，不再是点估计量±估计误差。因为样本方差的抽样分布服从自由度为（n-1）的x^2 分布构造总体方差的置信区间，由于x^2不是对称分布，无法由点估计值±估计误差的大总体方差的置信区间。

install.packages("TeachingDemos")
library(readr,Hmisc,TeachingDemos)
e52<-read.csv("/Users/ayu/Downloads/example5_2.csv",header = TRUE)
sigma.test(e52$食品重量,conf.level=0.95)$conf.int

两个总体方差的估计

比较两个总体方差的问题，一般由于两个样本店额方差服从了F（n1-1,n2-1）分布，因此可以用F分布来构造两个总体方差比的置信区间。

#两种方法组装产品得到时间的两个样本，使用时间方差比的置信区间进行估计
library(readr)
e54<-read.csv("/Users/ayu/Downloads/example5_4.csv",header = TRUE)
var.test(e54$方法一,e54$方法二,alternative = "two.sided" )$conf.int
最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
  • 人面猴
    序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
    沈念sama阅读 203,362评论 5赞 477
  • 死咒
    序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
    沈念sama阅读 85,330评论 2赞 381
  • 救了他两次的神仙让他今天三更去死
    文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
    开封第一讲书人阅读 150,247评论 0赞 337
  • 道士缉凶录：失踪的卖姜人
    文/不坏的土叔 我叫张陵，是天一观的道长。 经常有香客问我，道长，这世上最难降的妖魔是什么？ 我笑而不...
    开封第一讲书人阅读 54,560评论 1赞 273
  • 港岛之恋（遗憾婚礼）
    正文 为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
    茶点故事阅读 63,580评论 5赞 365
  • 恶毒庶女顶嫁案：这布局不是一般人想出来的
    文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
    开封第一讲书人阅读 48,569评论 1赞 281
  • 城市分裂传说
    那天，我揣着相机与录音，去河边找鬼。 笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。 我是一名探鬼主播，决...
    沈念sama阅读 37,929评论 3赞 395
  • 双鸳鸯连环套：你想象不到人心有多黑
    文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
    开封第一讲书人阅读 36,587评论 0赞 258
  • 万荣杀人案实录
    序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
    沈念sama阅读 40,840评论 1赞 297
  • 护林员之死
    正文 独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,596评论 2赞 321
  • 白月光启示录
    正文 我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,678评论 1赞 329
  • 活死人
    序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
    沈念sama阅读 33,366评论 4赞 318
  • 日本核电站爆炸内幕
    正文 年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
    茶点故事阅读 38,945评论 3赞 307
  • 男人毒药：我在死后第九天来索命
    文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,929评论 0赞 19
  • 一桩弑父案，背后竟有这般阴谋
    文/苍兰香墨 我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,165评论 1赞 259
  • 情欲美人皮
    我被黑心中介骗来泰国打工， 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。 一个月前我还...
    沈念sama阅读 43,271评论 2赞 349
  • 代替公主和亲
    正文 我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
    茶点故事阅读 42,403评论 2赞 342