【读书笔记】赤裸裸的统计学

1、什么是统计学

  1. 什么是数字、数值、数据
  2. 统计学是通过搜索、整理、分析、描述数据等手段,以达到推断所测对象的本质,甚至预测对象未来的一门综合性科学

2、统计学会说谎

  1. 相同的数据,不同的指标表现方式会造成不一样的理解,比如税率从2%增长到了4%,看起来才增长了2%,但是增长率却是100%,也就是说原本缴1000的税现在要缴2000!!!气抖冷。

  2. 百分比不会撒谎,但有时候也会夸大其词或避重就轻。比如:

    • 我今年炒股收益率增长了300%,看起来是不是很多??但是上一年我才赚了5块,今年才赚了20,甚至还不够喝一杯摩卡咖啡。
    • Boss宣布全公司每人涨薪10%,好高兴,你的工资5K * 10%=0.5K,你的TL 50K * 10%=5K,哦豁,听起来涨薪10%比他的工资是你的10倍是不是舒服多了。
  3. 相同的数据,不同的统计窗口也会造成不一样的理解。

    年份 员工 损益(单位:万) 去年同比
    2019 A 10 -
    2019 B 10 -
    2019 C 10 -
    2019汇总 - 30 -
    2020 A 12 +20%
    2020 B 0.5 -95%
    2020 C 12 +20%
    2020汇总 - 24.5 -18.3

    悲观的:我们的经济水平越来越糟,2020年的经济水平同比下跌16.4%

    乐观的:我们的经济水平越来越好,2020年有接近66.7%的人都比上年的财富增长了

  4. 名义值和实际值:是否考虑通货膨胀因素

  5. 好消息是,统计学帮助我们得到重要的结果,我们接下来对结果的有效反应(行动)可以帮助我们改善结果。

    坏消息是,统计学也有可能只是为了让数据看上去比较顺眼。(坏账转催收,辍学转留学、转校,医生不为严重病危的患者做手术),任何与数据不好看的冲突都不会有体现。

3、相关性和相关系数

  1. 相关性:相关性的体现表现的是两个变量之间的关联程度,比如温度和冰激凌,锻炼与体重。

  2. 相关系数:介于-1和1之间,相关系数越接近1和-1,变量间的关联性就越强。作为相关性的一个描述性工具,相关系数不受变量单位的限制,比如锻炼的频率与体重的多少(之类的散点图)
    \frac{1}{n}\Sigma_i^n \frac{(x_i-\bar{x})}{\sigma_x} \frac{(y_i-\bar{y})}{\sigma_y}

  1. 根据相关性系数,可以大致预测两者之间的关联和关系程度做出对应调整(比如受教育程度越高生活越好;书读得越多见识越广)

4、概率、期望值、回归平均数、标准误差

  1. 生活中可以根据期望值与投入对比,判断某一项事情是否值得投入

  2. 有些人考试某次可能超常发挥、大失水准,只不过是某次交好运/厄运,当好运/厄运结束时,随之而来的表现将会更加接近平均值

  3. 标准误差:符合正态分布(中心极限定理),描述样本与整体的离散程度

    • 要判断样本是否抽取自一个群体,可以通过计算样本平均值与群体平均值的差异,他们之间将会呈正态分布,比如说判断一堆零件是否符合标准

    • 要从样本估计整体,比如要从一份投票结果反映整体的投票,百分比的标准误差公式:
      \sqrt{p·(1-p)·\frac{1}{n}}
      p代表某个特定观点的回应比例,n代表样本的回应数

5、线性回归

在控制其他影响因素的前提下,对某个具体变量与某个特定结果之间的关系进行量化。

基本术语:

  1. 因变量:依赖其他变量而变化
  2. 自变量(解释变量\控制变量):解释因变量的变量
  3. 回归系数:揭示自变量与因变量之间相关关系,主要关注3个方面
    • 正负:正负反映自变量和因变量的相关关系方向,比如一般身高越高体重越中,回归系数为正,锻炼越多脂肪越少,回归系数为负。
    • 大小:大小反映自变量的变化对因变量的影响大小

常用方法:

  1. 最小二乘法(OLS):OLS直线可以让所有数据的残差平方和最小

回归分析要谨慎,避免:

  1. 用回归方程式来分析非线性关系:回归系数描述的是“数据最佳拟合直线”,一定是一条直线,如果两个变量之间不存在一致的线性关系,不能使用回归分析
  2. 相关关系并不等同于因果关系:例如我国人均gdp不断上升,我国的珍稀动物物种越来越少,这两者看起来像是存在着负相关关系,但是假设人均gdp下降了,物种也不会因此增加,这两者只是伪因果关系
  3. 因果颠倒关系:例如发达A地区的教育支出要高于中等B地区的,就算两个变量之间的正相关关系再明显,也不能断定因果关系的方向,因为你不知道究竟是对教育的支出才促使的经济发展,还是因为经济发展了才促进了教育的投入;另一个例子是gpd的增长率与失业率。因此,对容易受因变量影响的自变量,使用回归分析是无意义的
  4. 变量遗漏偏差:例子,打高尔夫球的人容易犯心脏病和关节病。这个结论就是没有考虑到打高尔夫球的群体和年龄。在研究高尔夫球对健康的影响时必须正确控制年龄的变量。一般来说,老年人才有更多的时间打高尔夫球,这个人群的年龄较不打高尔夫球的人较高,如果将年龄作为解释变量纳入到回归分析中,得到的结论更可能是年龄相仿的人,打高尔夫球的比不打的更健康。在这个例子中,年龄就是被遗漏的变量,这种研究分析,就算计算得再仔细,结果也会毫无根据性。
  5. 数据矿(变量过多):较变量遗漏产生的影响,是不是加多点变量就会更好?并不是!加入的无关变量过多,回归分析的结果就会被稀释。例如当研究一件事情产生的原因时,因为不知道原因,所以加入了尽可能多的潜在变量,看看最后有哪些变量具有显著的统计学意义,这种行为其实是无意义的,因为在最后,总会有一个无关变量恰到好处地达到了显著性水平的门槛,而且这类变量也是很难被察觉的。(某些无关变量最后也达到了显著性水平的门槛,因为总有人把最后拿到结果对着变量自圆其说)
  6. 高度相关的解释变量(多元共性):在一个回归方程里,有多个解释变量高度相关时,这样会造成无法分清变量对因变量的真是关系。例如,研究身体相对不监控的IT工作者,究竟是对着电脑的时间太多造成的,还是经常坐着不运动造成的,这两个变量的划分就会显得很模糊,很难得到对应变量的回归系数

回归分析依然是一个非常棒的统计学工具,在合理运用的前提下,能够为我们提供结果与变量间关键的相关关系,成为科学方法的一个重要组成部分

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343