单线性回归-步骤原理-实例

XXX研究了好几天的单线性回归,终于有些明白了,但是其中很多原理(公式)的东西还是不太懂。这里做下总结,希望能让刚开始学习机器学习的小伙伴少走些弯路吧。下面开始!!!

先从一个臭了大街的公式开始吧

Y = a + bX

没错就是它,此处略过10000个草泥马。

好这里先说一下这个公式的作用,就是根据把X带入单线性回归的公式求出Y的坐标。

Y是什么?X是什么?a是什么?b又是什么?我相信很多数学不好的小伙伴和我一样开始都是一脸懵逼。

Y是坐标系上y的值,是结果

X是坐标系上x的值,是我们自己给的数(参数)

a是截距(在这里就是线的起点)

b是回归系数(我在网上查了一下,就是线角度的正切值)

那么a,b是哪来的?这TM两个值是算出来的,当然向python里面的很多库提供方法很方便,但是我这里主要说的是这两个值是在没算出来的。

这里我们使用用最小二乘法来计算

来吧,说下最重要的运算步骤了。

这里需要两组数据,我这里把这两组数据分别转成矩阵用表示xx和yy吧,它们分别对应x和y的值,同时它们都是n*1的矩阵(n行1列),这里为了好理解所以使用1列的矩阵。

1、我们先需要把xx这个从n*1的矩阵转成n*2的矩阵(n行2列的矩阵),第一列全部都是“1”,新的矩阵我们用mx来代表吧。

mx = np.mat(np.ones((n,2))    //转成n*2的矩阵

for i in range(n): mx[i,1] = Xi[i]    //第一列全部都是“1”

2、我们将mx这个n*2的矩阵做转置,这里用mx.T表示,转置后的矩阵变成2*n(2行n列),现在用 mx.T * mx(mx.T乘以mx)2*n  *  n*2 会生成一个2*2的矩阵 xmx(这里不懂的可以自己查一下矩阵的乘法)。

xmx = mx.T*mx

3、这一步可以不做,这里只是提一下,验证xmx矩阵是否有效,用矩阵行列式求出xmx的值是否等于0,不等于0就继续。

np.linalg.det(xTx) != 0.0

4、再把xmx矩阵求逆,这里用xmx.I表示(逆矩阵就是:a矩阵乘b矩阵=单元矩阵,那么b就是a的逆矩阵,这里不知道说的对不对,哈)。

5、还记得yy这个n*1的矩阵(向量)吧。ws = xmx.I * (xm.T * yy.T)。

注:xmx的逆矩阵 * (xm的转置矩阵 * yy的转置矩阵),现在就是:2 x n矩阵 * 1 x n矩阵(向量) = 2x1的矩阵zz,再用 xmx.I这个2x2的矩阵 * 2x1的zz = 2x1的矩阵ws。

ws = xmx.I * (mx.T*yy.T)

6、ws是个2行1列的矩阵,第一行第一列的值就是b(截距),第二行第一列的值就是a(回归系数)

好了到这里Y = a + bX的公式完整了。

第一次写肯定会有不对的地方,希望说的不对的地方大家帮我改正。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,530评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 86,403评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,120评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,770评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,758评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,649评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,021评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,675评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,931评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,659评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,751评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,410评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,004评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,969评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,203评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,042评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,493评论 2 343

推荐阅读更多精彩内容

  • 一、实验目的 学习使用 weka 中的常用分类器,完成数据分类任务。 二、实验内容 了解 weka 中 explo...
    yigoh阅读 8,447评论 5 4
  • 一年级语文上册生字表 生字表一(共400字) 啊(ā)爱(ài)安(ān)岸(àn)爸(bà)八(bā)巴(bā)...
    meychang阅读 2,755评论 0 6
  • 在C语言中,五种基本数据类型存储空间长度的排列顺序是: A)char B)char=int<=float C)ch...
    夏天再来阅读 3,320评论 0 2
  • 那些年我们读杂文 练武 写作 创刊 考试 骑摩托车 能把冬天过成夏天 能把夏天过成冬天 那些年 我们很勇猛 战无不...
    春雪伊人阅读 407评论 2 5
  • 十月坐上车的那一刻,脑里一片空白,似乎想拼命抓住一些什么,却模糊到连眼前的车道和树影都看不清。耳边回响的还...
    稻草人_Z阅读 148评论 0 1