线性回归模型是研究连续型变量与一组自变量之间的关系。也就是说线性回归模型的因变量是连续型变量。如果因变量是分类变量,则是非线性的,此时需要用Logistic回归,对其发生概率进行线性回归。
Logistic回归预测模型思路:
1.模型构建
2.模型评价
3.模型验证
模型构建~~二元Logistic回归
二元Logistic模型构建应用条件
1.足够的样本量(样本量一般为变量的10~20倍)
2.独立性(传染病样本一般不能用Logistic回归)
3.线性假设成立
4.当观察对象时间不同或者有明显的时间区别,可采用Possion或生存分析
# 构建模型的glm函数为R自带
model <- glm(Group ~ ., data = data, family = binomial()) # 样本量一般为变量的10~20倍
# 样本量少的话可以先进行变量筛选再进行模型构建
summary(model)$coefficients # 查看回归系数,可以找出存在统计学意义的变量
exp(cbind('OR' = coef(model), confint(model))) # 计算OR值及可信区间
# OR值的解释:变量值增加一个单位,因变量风险增加OR值倍。
# 对模型进行卡方检验
anova(model, test = 'Chisq')
summary(model)
模型构建~~多元Logistic回归
多元Logistic模型主要包括无序多分类Logistic模型和有序多分类Logistic模型(累积logit模型)。对于无序多分类的Logistic模型,首先会定义因变量的某个水平为参照,其他水平与之比较。
1.足够的样本量(样本量一般为变量的10~20倍)
2.独立性(传染病样本一般不能用Logistic回归)
3.线性假设成立
4.当观察对象时间不同或者有明显的时间区别,可采用Possion或生存分析
library(haven)
data <- read_sav('logistic.sav') %>% as.data.frame() # 最好是数据框格式
data <- na.omit(data)
# Group为3分类,0代表轻度,1代表中度,2代表重度
# 将分类变量处理成factor: 2分类是否处理成因子不影响结果, 多分类必须处理成因子
data$Group <- factor(data$Group, levels = c(0,1,2), labels = c('轻度','中度','重度'))
# 有序多分类Logistic模型
library(MASS)
fit <- polr(Group ~ var1 + var2 + var3 + varN, data = data)
summary(fit) # 没有P值
# 对有序分类Logistic模型中的自变量回归系数进行显著性检验
drop1(fit, test = 'Chi') # 卡方检验
# 无序多分类Logistic模型
library(nnet)
model <- multinom(Group ~ var1 + var2 + var3 + varN, data = data)
results <- summary(model)
results$coefficients # 查看回归系数
results$standard.errors # 回归系数的标准误
# results中并没有提供回归系数的统计学检验,我们需要自己计算z值和p值
z <- results$coefficients/results$standard.errors
p <- (1-pnorm(abs(z)))*2
# 计算OR值
exp(results$coefficients)
exp(results$coefficients - 1.96*results$standard.errors) # OR值及其95%可信区间的下限
exp(cbind('OR' = coef(model), confint(model))) # 计算OR值及可信区间
Logistic回归
用glm函数建立广义线性模型,用参数family指定分布类型,logistic模型指定为binomial
用predict函数进行预测,predict(model, data, type = 'response')。
此外,还可以用mlogit包中的mlogit函数做多分类变量logistic回归,rms包中的lrm函数做顺序变量logistic回归,glmnet包中的glmnet函数做基于正则化的logistic回归。
如果你关注了我,希望你与我一起学习,一起成长!❤