得到大师课 王烁的30天认知训练营 02 什么是思考，怎样更好的思考
机器人能不能获得人脑的智慧？人是不是另一种机器演化出的自由意志？三个思想实验：图灵测试、中文屋子、亿年机器人，一起看看思考是怎么涌现的？
图灵测试：人类与另一方交流，彼此隔离，另一方对于人类来说是个黑盒子，你对他一无所知。交流仅通过“键盘-屏幕”进行，人类通过键盘输入，对方通过屏幕回应。如果人类无法通过交流辨别对方是人类还是机器，那么就可以说机器通过了测试，拥有与人等价的智能。
图灵自己只关心机器是否拥有智能（thinking），但未涉及机器是否像人一样获得“意向”( intentionality )乃至“意志”（will）,但哲学家和我们普通人都关心。哲学家认为与人等价的智能应该包括意向、意识、意志这些内容。没有它们，认知何来？不能自知，无法自决，谈何智慧？
意向就是心智在场、表达、代表事物的能力；（不完全理解）所谓意识就是知道“自我”；所谓意志就是自我选择。
于是著名哲学家赛尔把拥有意向、意识、意志的机器智能叫做强人工智能，而没有这些只会计算、推断，解决具体问题的机器叫做弱人工智能。
中文屋子：哲学家赛尔构造的思想实验，也是图灵测试的变形。赛尔充当图灵测试中被测的机器这个角色，而他确切知道自己这部机器没有人类智能，（通过只是查对照表，完全不懂中文？但赛尔是有思维能力的呀？他可以思考问题的呀？）在一间屋子里，只有一个人，一沓纸，一支笔，一个中英文对照表。门外的人塞进纸条用中文提问，赛尔用对照查出问的问题，给出英文答案，在用对照表查出中文，抄写在纸上塞到门外。结果回答完美无缺，屋外的人无法分辨屋里的是机器还是人，于是图灵测试通过。测试结束后，他告诉大家通过图灵测试的机器其实并没有智慧，他确切知道自己不理解中文，屋子里的其他所有东西，纸、笔、对照表，也没有一样有“理解力”。中文屋子里没有理解力，只是单纯的计算。他认为没有理解就没有意向，也不会有真正的思维，更没有意识、意志，这些层层递进的高级人类智慧。于是他宣布，中文屋子思想实验说明，哪怕通过图灵测试，机器也还是机器，不会拥有与人等价的智慧，最多只是貌似而已。
但下面的亿年机器人就厉害啦！王烁老师说的好，有数据的地方用数据说话，没数据的地方用故事说话。现在没数据就看你喜欢那个故事了。
亿年机器人：如果你想亲身看到一亿年以后的地球，现在能想到的唯一办法就是休眠。爬进休眠仓，然后在一亿年后醒来。可休眠仓要经受一亿年的考验，能源供给，环境灾变，自我修复，有数不清的考验需要休眠仓应付，否则你就醒不过来了。但未来无从预测，怎么办呢？制造一个能感知环境，回避风险，寻找资源的机器人，把休眠舱放进去。不动，能动，是从自然界复制而来的策略，前者是植物策略，后者是动物策略。要求机器择机而动，一开始下达“让我活着”，然后沉睡。你的机器人必须能够自己制定策略，“知道”如何去寻找资源，如何转移到安全地带，如何预判和回避风险。挑战不止于此，未来一亿年不会只有你的那一个机器人，可能很多机器人，彼此竞争、合作。你在休眠中，机器人会在保存你生命的最终目标之下，根据环境变迁，会自己衍生出许多次生目标。这是天大的事：衍生就意味着脱离，脱离于当初的目标。
不忘初心，何其之难。允许机器有相关决策自主权，那么自主决策的进程就一定会超越你的预想范围，这就叫失控。
其实这个故事中的机器人就是人类自己。在演化中，基因创造出人来做他们的机器人，以保护它们在人类身体深处漫漫休眠。人是基因为了自己永生而造出来的机器人，但在基因不得不让渡的自主决策空间中，人类演化出了自由意志。从基因不得不赋予人类学习能力，授权自主决策的那一天起，基因失控，人类自立，就成为注定的结果。人本来是机器，机器又何尝不会是人？
亿年机器人这个思想实验来自于丹尼尔.丹尼特的《直觉泵与其他思维工具》。他认为，不需要什么神秘的大脑特殊机理，运算层层嵌套，足以涌现出与人类相当的智慧，因为人类智慧亦不外乎是。
亿年机器人这个思想实验可以让人反思自己的想法，同时情绪上来的时候，问问自己是我的意志还是造物主的意思？
延伸阅读 Stanovich 的《机器人的反叛》
