(15)线性回归分析及实践

1、什么是回归分析?

回归分析是研究自变量X和因变量Y之间数量变化关系的一种分析方法,主要是通过建立因变量Y和影响他的自变量Xi(i1,2,3...)之间的回归模型,衡量自变量Xi对因变量Y的影响能力,进而可以用来预测因变量Y的发展趋势。

相关分析和回归分析的联系:

都是研究及测度两个或两个以上变量之间关系的方法。一般是先进行相关分析,计算相关系数,然后在建立回归模型,最后用回归模型进行推算或预测。

相关分析和回归分析的区别:

先关分析研究的是随机变量,不区分自变量和因变量;回归分析研究的变量要定义出自变量和因变量,并且自变量是确定的普通变量,因变量是随机变量。

相关分析主要描述变量之间相关关系的密切程度;回归分析不仅仅可以揭示变量X对变量Y的影响程度,还可以根据回归模型进行预测。

回归模型主要包括线性回归和非线性回归。线性回归有分为简单线性回归和多重线性回归;非线性回归一般需要通过对数转化等方式转化为线性回归的形式进行研究。

2、线性回归分析步骤

1)根据预测目标,确定自变量和因变量

围绕业务问题,明确预测目标,根据经验和常识或过往数据等初步确定自变量和因变量

2)绘制散点图,确定回归模型类型

绘制散点图,初步判断自变量和因变量之间是否基友线性相关关系,同时进行相关分析,判断相关程度和方向,从而确立回归模型的类型

3)估计模型参数,建立回归模型

最小二乘法进行模型参数的估计,建立回归模型

4)对回归模型就行检验

通过对真个模型及各个参数的统计显著性检验,逐步优化和最终确立回归模型

5)利用回归模型进行预测

模型通过检验后,应用到新的数据中,进行预测


一、简单线性回归分析简介

简单线性回归也称之为一元线性回归,就是模型中只有一个自变量,他主要用来处理一个自变量与一个因变量之间的线性关系。

模型为:Y=a+bX+ε

Y:因变量;

 X:自变量;

 a:常数,也就是截距;

 b:回归系数,也就是斜率;

ε:随机误差,即随机变量对因变量产生的影响。

什么是最小二乘法?

最小二乘法又叫做最小平方法,通过最小化误差的平方和寻找数据的最佳函数匹配。

一是将误差最小化,二是将误差最小化的方法是将误差的平方和最小化。“平方”有称之为“二乘”,用平方的方法是要规避负数对计算的影响。

最小二乘法在回归模型上的应用,就是要似的观测点和估计点之间的距离的平方和达到最小,距离最近,也就是使得尽可能多的观测点落在或者更加靠近这条拟合出来的直线上。

第一步:根据预测目标,确定自变量和因变量

“广告费用”作为自变量,“销售额”最为因变量,评估广告对销售额的具体影响。

第二步:绘制散点图,确定回归模型类型

结论:两个变量之间存在明显的线性相关关系

第三步:估计模型参数,简历回归模型

【统计】界面中,“估算值”的作用是估算出回归系数,要勾选。

“模型拟合”的作用是输出判定系数R的平方

【选项】界面,一定要勾选“在方程中包括常量”,目的是输出拟合直线的截距a。

由于是简单线性回归,方法选择“输入”即可,因为只有两个变量,具体的区别在下一篇“多重线性回归分析”里具体作出说明。

第四步:对回归模型进行检验

这张表说的是简单线性回归模型建立过程的相关信息。

自变量是广告费用,因变量是销售额,自变量的步进方法是输入。

相关系数R:解释变量之间的相关性,R=0.816>0.8,为高度正向相关关系。

判定系数R方:也叫拟合优度或决定系数,表示拟合得到的模型能解释因变量变化的百分比,R方越接近1,表示回归模型拟合效果越好。本例中R方为0.666表示自变量“广告费用”能解释因变量“销售额”模型变化的66.6%的数据,模型拟合效果一般,尚可接受。如果是多重线性回归模型则看调整后的R方。

标准估算的误差:反映了建立的模型预测因变量的精度,在对比多个回归模型的拟合效果时,常会比较该指标,值越小,说明拟合效果越好。

这张表的主要作用是通过F检验来判断回归模型的回归效果,即检验因变量和自变量之间的线性关系是否显著,用线性模型来描述他们之间的关系是否恰当。

只要看F和显著性P,因为F还需要查看(F分布临界值表),所以可直接用显著性P得出结果。

0<=显著性P<=0.1,则表明结果具有极其显著的统计学意义;

0.1<显著性P<=0.5,则表明结果具有显著的统计学意义;

显著性P>0.5,则表明结果不具有显著的统计学意义。

这个表主要用与回归模型的描述和回归系数的显著性检验。

简单线性回归模型:Y=377+14.475X

显著性P=0<0.01,说明回归系数b具有极其显著的统计学意义。

第五步:利用回归模型进行预测

1、数据较少时,手动计算即可

2、数据较多时,SPSS自动计算,方法如下:

在【保存】选项里勾选“未标准化”

这样就可以在元数据中增加一个新的变量PRE-1表示结果。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,839评论 6 482
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,543评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 153,116评论 0 344
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,371评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,384评论 5 374
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,111评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,416评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,053评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,558评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,007评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,117评论 1 334
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,756评论 4 324
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,324评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,315评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,539评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,578评论 2 355
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,877评论 2 345

推荐阅读更多精彩内容