万维钢《一个基于信息论的人生观》笔记

一,信息与冗余

看看下面这两句话:

1星期天不上班。

2介太太氕与锚。

从信息量看,更多人都会觉得第一句的信息量更大,第二句不知道在说什么。但万维钢说其实是第二句的信息量更大。第一句不过是看起来更有意义些。

比如你把第一句变成:

星__天不__班。是不是还是能猜到空白的是什么字。这句话其实是“可压缩”的。但第二段拿掉任何一个字你都不能猜到。因为它是“不可压缩”的。

万维钢在原文中的第二段话是随便打了段乱码,但为了帮助大家更好的理解,我特意把第二段话换了,把原文进行了汉字的凯撒移数一位。原文是:今天天气不错。

怎么加工的呢?比如汉字“一”对应的unicode编码是0x4e00,凯撒移位为1的话0x4e00+1=0x4e01,对应的汉字就是“丁”

把今天天气不错进行unicode转换是

20170 22825 22825 27668 19981 38169

凯撒移位1的话就变成

20171 22826 22826 27669 19982 38170

然后再用unicode翻译过来就是

介太太氕与锚

怎么样,现在再看看上面两句话是不是更能理解为什么第二句话的信息量更大了。

二,香农的洞见

一个信息的信息量大小,在于他克服了多少不确定性。

前面第一个句子,有些字即便空白了,我们也能猜到它原来的意思。这就意味着它们提供的信息就比较少。

像:今天我要到田里干__,我不说你大概也能猜到是活字。因为汉子中干字开头的词不多,干活,干事,干仗,就那几个。你很简单就能猜到,所以“活”这个字提供的信息量很少。

再比如要你帮我跟踪一个人,实时汇报他的位置。如果这个人生活非常规律,平常就在家,公司,餐馆这三个地方出现,你每次告诉我的无非也是这三个。哪怕你不告诉我,我也有三分之一的把握猜到。所以你给我的信息价值并不是很大。

但如果他今天在哈尔滨,明天在菲律宾。全世界到处跑,我猜不到他在哪,这时候你给我的信息价值就非常大了。你的信息出来前,他的位置对我而言就是一种不确定性。你的信息克服了这种不确定性,原来的不确定性越大,你的信息就越有价值。

3信息熵

万维钢在文中用对数函数和加权平均解释了信息的计算公式。并举了几个扔硬币的例子计算。鉴于过程太复杂,我就简单摘录这一段的精华:

在物理学上,熵描写的是一个系统的混乱程度,信息熵也是如此。越是看上去杂乱无章的信息,信息熵越高,它的信息含量就越高。也就是说,可供选择的范围越广,选择的信息量也就越大。

4压缩能使信息量最大化

比如古代用的文言文,就是如此,特别省竹简。我们现在所处的信息社会也是如此,我们之所以能在电脑上听音乐看电影,就是因为有了压缩算法。压缩算法都用到了香农的观念。

那我们平常说话为什么不尽量压缩,要容忍那么大的语言冗度呢?作者说主要原因是有噪声。我认为除开这一点之外,有时候我们交流只是为了传达一个简单的信息,如果每个信息的信息量都太大,存在太多可能性,反而失去了效率。

5香农的第二个洞见

克服噪声的正确方法,是增加信息的冗余度。

比如以前的电台,一段代码传送的过程中,噪声可能把“0”变成了“1”。刚开始大家的想法是把信号放大,让信号的强度超过噪声。

但这陷入了一个囚徒困境,如果每条通讯都扯着嗓子喊,声音越来越大了,互相的干扰也越严重,噪声也当然变得越大。而香农的做法明显有效的多。

举个例子,比如ABCD分别对应00,01,10,11。我想传播一个A,但信息在传播的过程中可能会把“0”变成了“1”,最终你收到的就很有可能变成了BCD了。

但如果增加它的冗余度,让ABCD分别对应000000,000111,111000,111111。这时候即便是在传播的过程出了错,你收到的是000001,你也能立马猜到我传播的是A。

6可预测性和不可预测性

信息的本质是克服了多少不确定性,也就是不可预测,而冗余的本质恰恰是提高可预测性。

从信息论的角度,我们的人生面临一个矛盾。一方面希望自己过得有效率,给世界留下更多信息,另一方面又不得不跟人好好交流,增加冗余度。

万维钢说既要有创造性,又要可预测,这才是合理的信息输出。然后他提出了一个新颖的角度:

从信息论的角度上看,看书的速度并不是由你眼球转动的速度决定的,而是取决于你对你所读的领域了解多少。因此他说出了阅读的过程就是读者与作者的较量,看作者能使出多少手段让读者猜不到他下一步想讲什么。

接着他又给了一个学习积累的角度:减少世界给自己的不确定性。新人看啥都觉新鲜,老手看哪都是俗套。因为只有这样,才能从一大堆可预测的事物中抓到那些不寻常之处,那才是真正有价值的信息。

我把这句话再稍微解读一下,就是尽量找到事物发生背后的基本原理,框架或模型。

然后对于做事,他给出的方法是增加自己的不确定性,信息就是意外。出事出乎意料,才值得被记住。

但是不能因为要做出乎意料的事就选择做坏事。他说我们的生活除了信息论的纬度,还有各种衡量的纬度,比如好与坏。一个不负责任的医生违反操作规程把人医死了,这是值得被记录的,但却不是一件好事。

最后他给出了一个很好的结尾,引用了《辛德勒的名单》中的一句话:什么叫做权利呢?“权利是我们有充分的理由去杀一个人,但是我们不杀”。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,723评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,485评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,998评论 0 344
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,323评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,355评论 5 374
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,079评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,389评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,019评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,519评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,971评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,100评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,738评论 4 324
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,293评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,289评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,517评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,547评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,834评论 2 345

推荐阅读更多精彩内容