先验后验贝叶斯

随机并不随机

设想一个转盘游戏有红黑两种,且颜色各占一半。现在请你写下自己的预测结果。如果你配合可以此刻直接写到评论区,再来看文章后续内容。

首先要说的一点是,转盘是否公平,你心里其实已经预先有了答案。

曾有大量人参与过这一实验,5次转动转轮产生的红、黑(R/B)颜色序列,一共有32种可能。由于每次转动转轮之后小球停在红色或黑色区域的概率相同,因此上述32种序列出现的概率也相同。

事实上,人们的选择并不均匀。不信你可以看看自己写下的答案。其实,BBRBR、BRRBR 这类序列出现的次数远远超过预期,RBRBR这类序列出现的次数则低于预期,而 RRRRR 几乎没有出现过。对于这样的结果,看起来似乎理所当然。与 BBRBR 相比,RRRRR 给人的感觉并不像一个随机序列,尽管转动转盘出现这两种结果的概率是相同的。

如果再让你立刻说一个1——20之间的数字,你选择的是17,或者是7么。大量测试显示如果让人们在1——20之间选一个数字,17是最常被选到的数字。如果我们让人们在0至9之间选一个数字,他们最常选的是7。在随机选择时,末尾是0和5的数字出现的次数远低于我们的预期,在人们心目中,这些数字的随机程度似乎比较低。

先验概率

关于转盘的问题,我们通常默认它是一种非常公平的游戏,小球停在红色或黑色区域的概率是相同的。但是,就是有人认为转轮偏向于某个颜色。这其中包括:

  • 红色论:转轮偏向于红色,小球停在红色区域的次数占比为60%。
  • 公平论:转轮是公平的,小球停在红色区域与黑色区域的次数相同。
  • 黑色论:转轮偏向于黑色,小球停在黑色区域的次数占比为60%。

如果我再问你这三种理论的置信度是多少?除非证据确凿,通常我们很可能会认为轮盘赌是公平的。例如公平概率为90%,黑色论与红色论正确的概率分别只有5%。

注意,此时的90,5,5就是所谓的先验概率(priori probability),即认为某个理论正确的概率。

当然,不同的人可能有不同的先验概率:怀疑论者认为三个理论的先验概率都是1/3,而有些人充分信任庄家的节操,认为红色论与黑色论的先验概率只有1%。

但是,这些先验概率不是一成不变的。如果我们找到了某理论优于另一理论的证据(例如,小球连续5次停在红色区域中),不同理论的置信度就会发生改变。

后验概率

那么,这个规律在转盘中会起到什么作用。我们转动转轮5次,得到RRRRR的概率是多少呢?这个时候,之前的先验概率就要发挥作用了。

在公平时,每次转动转轮后小球停在红色区域的概率为1/2,因此,得到RRRRR这个结果的概率为:1/2×1/2×1/2×1/2×1/2=1/32=3.125%换言之,得到RRRRR与得到其他31种颜色序列的概率完全相同。

如果黑色论是正确的,小球停在红色区域的概率为40%,即0.4,那么,得到RRRRR结果的概率为:0.4×0.4×0.4×0.4×0.4=1.024%

如果红色论是正确的,小球停在红色区域的概率为60%,那么,得到RRRRR结果的概率为:0.6×0.6×0.6×0.6×0.6= 7.76%

公平论的先验概率为0.9,这个先验概率的3.125%,即0.9×0.031 25(0.0281),即“公平论正确且小球5次停留的区域为RRRRR”的方框中,剩下的0.8719则是“公平论正确但停留区域不是RRRRR”。

同理,红色论的先验概率是0.05,因此,“红色论正确且结果为RRRRR”的先验概率是0.05×7.76%=0.0039;而“红色论正确但结果不是RRRRR”的是0.0461。黑色论的先验概率也是0.05。但是,黑色论与RRRRR这个结果之间的关系很扭曲,因此,“黑色论正确且结果为RRRRR”的概率为0.05×1.024%=0.0005。

我们可以画出下图。


如果我们转动转盘并且真的得到RRRRR的结果,对红色论而言就是好消息,对黑色论而言则是坏消息。

小球连续5次停在红色区域,这种情况位于方框图的下排,黑色论、公平论与红色论的先验概率分别为0.0005、0.028和0.0039。换句话说,在这种情况下,公平论与红色论的先验概率比率大约是7∶1,红色论与黑色论的先验概率比率大约是8∶1。稍加换算,黑色论正确的概率是1.5%; 公平论正确的概率是86.5%; 红色论正确的概率是12%。也就是说,和最初相比,由此可见,红色论的置信度增加一倍多,而黑色论的置信度几乎消失。置信度的这种变化是十分恰当的,小球连续5次停在红色区域,我们对转轮受到人为操纵的怀疑当然会增加。

到这里,上述计算展示了在连续5次看到小球停在红色区域之后,公平论、红色论、黑色论的置信度的变化情况,也就是所谓的后验概率(posterior probability)。

贝叶斯推断

先验概率描述的是看到相关证据之前的置信度,而后验概率描述的是看到相关证据之后的置信度。我们所做的工作叫作“贝叶斯推理”(Bayesian inference),由先验概率到后验概率的需要用到“贝叶斯定理”(Bayes’s Theorem)的概率公式。

在贝叶斯推理的过程中,人们在看到证据后,某种理论的置信度不仅取决于证据的内容,还取决于一开始时的置信度。

单纯地依靠零假设显著性检验的做法,其实违背了贝叶斯推理的本质。例如吃一个西瓜病情延缓和吃药病情延缓得到的统计概率都可能是0.05。也就会让人认为西瓜与药有相同的疗效。

费舍尔曾说过:“科研人员不会设一个固定的显著性临界值,然后年复一年,无论情况如何变化,都依据这条红线去推翻各种假设。相反,他们会在证据的启示下,结合自己的想法,认真考虑每一个具体案例。”

贝叶斯定理对推理方法产生了广泛的影响,例如教会机器根据人们输入的大量数据来学习,但这些方法并不适用于回答是或否的问题。对于是或否的问题,人们常常借助费舍尔的方法做出判断。具体的说,信奉贝叶斯定理的统计学家通常对显著性检验不感冒,他们对“该新药是否有疗效”之类的问题不感兴趣,而是更关注如何建立一个预测模型,以便更准确地判断该药物的不同剂量在针对不同人群时可以取得什么样的疗效。

回到最开始的问题。出现RBRRB与RRRRR这两个结果的可能性都非常小,而且概率相同,但是在人们看来,前者是随机结果,后者则不是,这是为什么?贝叶斯的统计学观点足以解释其原因。当看到RRRRR这个结果时,我们就会更加相信一个转轮盘做过手脚,小球会停在红色区域,对于这个理论,我们已经赋予了某个先验概率。但是,如果出现的结果是RBRRB,我们确不会认为转轮中藏有可以产生RBRRB这个结果的特殊装置。先验概率不是一视同仁,而是有所取舍的。在心理上,有的想法会得到明显的重视,而对于RBRRB这一类结果,我们赋予它们的先验概率几乎接近于零。

相较于复杂想法以及以完全陌生的现象为基础的想法,我们往往更喜欢简单的想法和那些通过类比我们所熟知的事物而产生的想法。这种喜好似乎是一种不公平的偏见,但是,如果没有任何偏见,我们就有可能整天都处于震惊的状态。比如,就在刚刚,我竟然听到外面有汽车嗯了三下喇叭。


加入靠谱熊基地,和大家一起交流
添加我的微信
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,772评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,458评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,610评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,640评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,657评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,590评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,962评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,631评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,870评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,611评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,704评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,386评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,969评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,944评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,179评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,742评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,440评论 2 342

推荐阅读更多精彩内容