R语言入门--第十二节(Logistic与泊松回归)

之前学过标准回归分析,用预测变量预测响应变量,响应变量要符合正态分布。当结果变量为二值型或者计数型可以分别用Logistic回归,泊松回归进行阐释建模;可均通过基础glm()函数进行分析。它们统属于广义线性模型概念(而标准线性模型也是广义线性模型的一个特例)。概念与原理详见p280

要点一、Logistic回归

通过一系列连续型/类别型变量来预测二值型结果变量。

  • 实验示例:研究一些因素对是否会出轨(会/不会,0/1)的影响。数据包Affairs在AER包内。

1、首先创建二值型因子变量

data(Affairs, package="AER")
#Affairs为有601个观测,9个变量的数据表。
summary(Affairs)
table(Affairs$affairs)
#大致瞅一下不同出轨次数的人数
Affairs$ynaffair[Affairs$affairs > 0] <- 1
Affairs$ynaffair[Affairs$affairs == 0] <- 0  
#将出轨次数二值化,出过轨/未出柜
Affairs$ynaffair <- factor(Affairs$ynaffair, 
                           levels=c(0,1),
                           labels=c("No","Yes"))
#进一步转化为二值因子
table(Affairs$ynaffair)
str(Affairs$ynaffair)

2、然后glm()Logistic回归建模

fit.full <- glm(ynaffair ~ gender + age + yearsmarried + children + 
                  religiousness + education + occupation +rating,
                data=Affairs,family=binomial())
#格式基本与lm()相同,重要的是famly= 的参数选择
summary(fit.full)
#由结果看出仅有4个变量有显著意义。
summary(fit.full)
  • 由上述返回数据,可以尝试进一步单独选择这四个变量进行分析。
fit.reduced <- glm(ynaffair ~ age + yearsmarried + religiousness + 
                     rating, data=Affairs, family=binomial())
summary(fit.reduced)
#结果p值表明拟合的更好,不信?那再对比检查下
  • anova() 可用于模型拟合优度的比较,在第七节曾使用过。
anova(fit.reduced, fit.full, test="Chisq")
#结果p值无显著意义,表明二者拟合程度一样好,于是选择4个变量的简单模型更符合要求。
summary(fit.reduced)

3、解释模型参数

  • 主要是对回归系数的解释;由于连接函数为对数优势比,所以解释意义比较复杂
coef(fit.reduced)

此时回归系数表示当其他预测变量不变时,以单位预测变量的变化可引起的响应变量对数优势比的变化。

优势比=π/(1-π) ,其中π为二值(0/1)分布中,1(出轨)出现的概率。

exp(coef(fit.reduced))

指数转换后,比如控制其它变量不变,婚外情的优势比将乘以1.106。


指数转换

值得注意的是:与标准回归不同,泊松回归、Logistic回归对响应变量的影响是成倍增加的,不是线性增加的。即年龄增加10岁,就是乘以1.106的10次方

4、预测结果概率

即根据回归模型结果,在某一变量不同下水平下,预测可能的出轨概率(0/1中1的概率)
(1)首先创建一个新表(dataframe格式,变量名相同),控制其它变量为平均水平时,某一变量为所有可能的水平。

testdata <- data.frame(rating = c(1, 2, 3, 4, 5),
                       age = mean(Affairs$age),
                       yearsmarried = mean(Affairs$yearsmarried),
                       religiousness = mean(Affairs$religiousness))

(2)根据回归结果,用predict()函数预测不同水平的概率

testdata$prob <- predict(fit.reduced, newdata=testdata, type="response")
testdata  #查看结果
testdata
  • 换个年龄变量再看看
testdata <- data.frame(rating = mean(Affairs$rating),
                       age = seq(17, 57, 10), 
                       yearsmarried = mean(Affairs$yearsmarried),
                       religiousness = mean(Affairs$religiousness))
testdata$prob <- predict(fit.reduced, newdata=testdata, type="response")
testdata

5、检测过度离势

  • 定义:观测到的响应变量的方差大于期望的二巷分布的方差。
  • 意义:过度离势会导致奇异的标准误检验和不精确的显著性检验。
  • 思路:检验φ=残差偏差/残差自由度;若值接近1,则没有过度离势。
#法1
deviance(fit.reduced)/df.residual(fit.reduced)
#返回结果为1.032

#法2  假设检验,零假设为φ=1,若p>0.05,则无过度离势
fit <- glm(ynaffair ~ age + yearsmarried + religiousness +
             rating, family = binomial(), data = Affairs)
#第一次使用family = binomial()拟合;
fit.od <- glm(ynaffair ~ age + yearsmarried + religiousness +
                rating, family = quasibinomial(), data = Affairs)
#第二次使用family = binomial()拟合;
pchisq(summary(fit.od)$dispersion * fit$df.residual,  
       fit$df.residual, lower = F)
# 返回结果为0.34

若出现过度离势,仍可使用glm() 函数拟合Logistic回归,但是需要将二项分布改为类二项分布(quasibinomial distribution).

要点二、泊松回归

通过一系列连续型/类别型变量来预测计数型结果变量。

  • 实验示例:研究癫痫发病次数(sumY)与用药(Trt)的关系,此外有两个协变量。数据包breslow.dat在robust包内。

1、确定目标数据,并观察计数型变量分布

data(breslow.dat, package="robust")
names(breslow.dat)
summary(breslow.dat[c(6, 7, 8, 10)])
#查看目标数据分布
opar <- par(no.readonly=TRUE)
#绘图观察响应变量分布
par(mfrow=c(1, 2))
attach(breslow.dat)
hist(sumY, breaks=20, xlab="Seizure Count", 
     main="Distribution of Seizures")
boxplot(sumY ~ Trt, xlab="Treatment", main="Group Comparisons")
par(opar)
计数型变量分布

左图反映了因变量(y)的偏倚特性;右图中经药物治疗的发病数似乎减少且方差也减小了(泊松分布中较小的方差伴随着较小的均值)

与标准最小二乘回归不同,泊松回归不关注方差异质性(即协变量的影响)。

2、拟合泊松回归

fit <- glm(sumY ~ Base + Age + Trt, data=breslow.dat, family=poisson())
#协变量还是要放在表达式的前面
summary(fit)
泊松回归

3、解释模型参数

coef(fit)
#同样是对数作为连接函数,参数经过log转换过
exp(coef(fit))
#如上进行指数化系数,便于解释意义
image.png

如上图结果,表明保持其他变量不变,年龄增加一岁,发病数会乘以1.023;更为重要的是保持协变量(Base、Age)不变,服药组相对安慰组癫痫发病数降低了近20%。

  • 预测新模型看看
test <- data.frame(Base = 50,
                   Age = c(20:30),
                   Trt = "placebo")
test$sumY <- round(predict(fit, test, type = "response"), 0)

4、检验过度离势

定义,意义等基本同前,不过有两点要注意:

  • 泊松分布的方差和均值相等;
  • 处理计数型数据经常发生过度离势。
法1
deviance(fit.reduced)/df.residual(fit.reduced)
#返回结果为10,远大于1
法2:假设检验 qcc包
library(qcc)
qcc.overdispersion.test(breslow.dat$sumY, type="poisson")
#返回p值<0.05,进一步表明存在过度离势
  • 若存在过度离势,可使用family="quasipoisson"替换family="poisson"
fit.od <- glm(sumY ~ Base + Age + Trt, data=breslow.dat,
              family=quasipoisson())
summary(fit.od)
summary(fit.od)

但尴尬的是,Trt的p值大于0.05;即考虑过度离势,并控制协变量,并没有重组的证据表明药物相对于未用药组能够显著降低发病次数。仅是拿本数据举例阐释泊松模型~

关于Logistic回归与泊松回归的用法,教材还有一些扩展,分别在p289与p294就不深入学习了。
参考教材《R语言实战(第2版)》

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 195,898评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,401评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 143,058评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,539评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,382评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,319评论 1 273
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,706评论 3 386
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,370评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,664评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,715评论 2 312
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,476评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,326评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,730评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,003评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,275评论 1 251
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,683评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,877评论 2 335

推荐阅读更多精彩内容

  • 《R语言与统计分析》的读书笔记 本书的重点内容及感悟: 第三章 概率与分布 1、随机抽样 通过sample()来实...
    格式化_001阅读 6,583评论 1 12
  • 待处理统计学习方法:罗杰斯特回归及Tensorflow入门 参考阅读深度学习笔记(一):logistic分类Log...
    jiandanjinxin阅读 8,208评论 0 3
  • 一.logistic回归 1.理论介绍 (1)logistic回归的引入 是一个二分类的监督学习方法,在二分类中...
    wlj1107阅读 14,644评论 0 1
  • 今天接到喜凤电话,她依然用她那天生乐观的方式来感染我,让我心情好多了,觉得也没那么重要了,人还是不要想太多,怎么做...
    杨淑心阅读 224评论 0 4
  • 序言 《“命”和“运”决定人的一生》 仅仅靠一时运气好是不可能大富大贵的。 要想命好,首先要认识命的重要性,即信命...
    皮卡丘_83e1阅读 151评论 0 0