回顾条件概率:条件概率P(A|B)这个重要概念的核心就是刻画了事件B的发生给事件A是否发生所带来的额外信息
回顾事件独立:在所有的条件概率情况当中,我们注意到一个有趣且重要的特殊情况,那就是事件B的发生并没有给事件A的发生带来什么新的额外信息。换言之,事件B的发生与否,并没有影响到事件A发生的概率,换句话说就是P(A|B)=P(A)所表达的意思。可以进一步推导出等价的表达式:P(AB)=P(A)P(B)
P(A|B)=P(A) 这个公式是基于事实得出的,并不是通过公式推导得到,在数学中,有很多类似等式是基于事实假设得到的。
不相容与独立性
事件A和事件B的两个圆圈互不相交,即意味着两个事件不相容,直观的感觉到,事件A和事件B二者看上去没啥关系,二者就是相互独立的?
事实上却恰巧相反。若事件A和事件B互不相容,并且像图中所描述的,能够保证两个事件发生的概率:P(A)>0且P(B)>0成立,则他们永远不会相互独立,就拿抛一个股子来说,A表示抛到6,B表示抛到1,有6没有1,有1就没有6,那么P(AB)=0,而P(A)P(B)肯定不等于0,因为P(A)=1/6,P(B)=1/6,根据事件独立性的公式P(AB)=P(A)P(B)判断,A和B不满足独立,所以,事件不相容并不代表事件独立。
在举个例子,假设依次抛掷两枚均匀的硬币,事件A表示第一枚硬币正面向上,事件B表示第二枚硬币正面向上,这2个事件绝对的事件独立,利用公式也可以做出判断。
条件独立
还是上面抛2个硬币的例子,A,B事件独立,但在引入事件C的情况下会怎么样呢?那我们此时引入一个条件事件C,事件C表示两次试验的结果不同,显然,概率P(A∩B|C)=0(这个是事实值)因为在两次试验结果不同的前提条件下,压根不可能发生两次都是正面的情况,但同时呢两个单独的条件概率P(A|C)≠0,P(B|C)≠0,因此P(A∩B|C)≠P(A|C)P(B|C),也就是说事件A和事件B不满足事件C发生下的条件独立的要求。
这个例子非常明确的说明了,独立和条件独立并不等价。
条件独立的概念其实和独立的概念在本质上并没有太大的区别,无非是在进行事件A和事件B讨论的基础上,引入了另外一个前提条件:事件C。即在给定事件C发生的前提条件之下,若事件A和事件B满足等式:P(A∩B|C)=P(A|C)P(B|C)成立,则称事件A和事件B在给定事件C的前提之下条件独立。这是不是和独立性P(AB)=P(A)P(B)的定义基本上差不多呢?
条件概率应用领域当中使用非常广泛的链式法则:
P(A∩B∩C)=P(B∩C)P(A|B∩C)=P(C)P(B|C)P(A|B∩C),这个链式法则其实也很好理解,P(B∩C)的联合概率就等同于P(C)P(B|C)就等同于B,C同时发生的概率
在结合条件概率得到:P(A∩B|C)=P(A∩B∩C)/P(C)
=P(C)P(B|C)P(A|B∩C)/P(C)
=P(B|C)P(A|B∩C)
在继续推导可以得出条件独立(P(A∩B|C)=P(A|C)P(B|C))的第二等价公式:P(B|C)P(A|B∩C)=P(A|C)P(B|C)<==>P(A|B∩C)=P(A|C),
简单点说,就是在事件C发生的总的前提条件下,事件B是否发生,不影响事件A发生的概率。其实这就又回到了条件概率定义的源头上去了
一组事件的独立性: 直观理解,这里我们先将多个事件约定为3个,讨论清楚了3
个事件独立的情况之后,其他的情况自然而然就迎刃而解了。
关于事件A1,A2,A3,这3个事件满足相互独立的条件归结为以下4条:
P(A1∩A2)=P(A1)P(A2)
P(A1∩A3)=P(A1)P(A3)
P(A2∩A3)=P(A2)P(A3)
P(A1∩A2∩A3)=P(A1)P(A2)P(A3)
最后由特殊到一般,我们来概况一下任意个数的一组事件之间相互独立应该满足的条件:
脱离开上面形式化的公式,实际上,我们可以更加直观的来理解一组事件的独立性。通过对比,其实不难发现他的背景与两个事件的独立性是一样的。一组事件满足独立性意味着下面一个事实:我们把一组事件任意的分成两个小组,一个小组中的任意个数事件的出现与不出现,都不会给另一个小组中事件的发生与否带来任何额外的信息
总结:本节学习内容更加抽象,从2个事件的独立到条件独立(3个事件)在到一组事件的独立(大于等于3个)的概念阐述,最终需要理解的是上面也是下面那句话:
一组事件满足独立性意味着下面一个事实:我们把一组事件任意的分成两个小组,一个小组中的任意个数事件的出现与不出现,都不会给另一个小组中事件的发生与否带来任何额外的信息