现代计算机之父艾伦·图灵（Alan Turing）的思想实验，即对机器智慧的终极测试——图灵测试：人类与另一方交流，彼此隔离，另一方对人类来说是个黑盒子，你对他一无所知。交流仅通过键盘和屏幕进行，人类通过键盘输入，对方通过屏幕回应。如果人类无法通过交流辨别对方是人类还是机器，那么就可以说机器通过了测试，拥有与人类同等的智能。
摘自百度百科：
中文房间（Chinese room，the Chinese room argument）又称作华语房间，是由美国哲学家约翰·希尔勒（John Searle）在1980年设计的一个思维试验以推翻强人工智能（机能主义）提出的过强主张：只要计算机拥有了适当的程序，理论上就可以说计算机拥有它的认知状态以及可以像人一样地进行理解活动。
“中文房间”最早由美国哲学家John Searle于20世纪80年代初提出。这个实验要求你想象一位只说英语的人身处一个房间之中，这间房间除了门上有一个小窗口以外，全部都是封闭的。他随身带着一本写有中文翻译程序的书。房间里还有足够的稿纸、铅笔和橱柜。写着中文的纸片通过小窗口被送入房间中。根据Searle，房间中的人可以使用他的书来翻译这些文字并用中文回复。虽然他完全不会中文，Searle认为通过这个过程，房间里的人可以让任何房间外的人以为他会说流利的中文。
著名哲学家约翰·塞尔（John Searle）把拥有意向、意识、意志的机器智能叫作强人工智能（strong AI）（也称为机能主义），而没有这些，只会计算、推断和解决具体问题的机器智能叫作弱人工智能（weak AI）。
“意向”（intentionality），就是心智（mind）在场并表达、代表事物的能力；
“意识”（consciousness），就是知道“自我”；
“意志”（free will），就是自主选择。
亿年机器人这个思想实验，来自丹尼尔·C.丹尼特（Daniel C.Dennett）的《直觉泵和其他思考工具》（Intuition Pumps and Other Tools for Thinking）一书。
如果你想亲眼看到一亿年后的地球，现在能想象的唯一办法是休眠。你爬进休眠舱，然后在一亿年后醒来。
可是，问题没这么简单。休眠舱需要经受一亿年的考验，要保证能源供给不断，要经得起环境灾变，万一受损还得自我修复，数不清的考验它都得能应付，否则你就再也醒不来了。
找个最理想的位置，有维系休眠舱所需的所有资源，然后固定在那里。行不行？
这不算好办法，一亿年间，地震、海啸、陨石撞地球都可能发生，这么长的时段中，想想就知道没法靠谱地预测风险如何降临。千年一遇的事情每天都在发生。不然，福岛核电站怎么会出事故？
未来无从预测，那怎么办？
制造一个能感知环境、回避风险、寻找资源的机器人，把休眠舱放进去。
要求机器择机而动，你一开始给它下达了指令“让我活着”，然后便沉睡一亿年，不再给它临场指导。你的机器人必须能够自己制定策略，“知道”如何去寻找资源，如何转移到安全地带，如何预判和回避风险。
这些你不可能都提前想到，就算想到一部分，你也不能事事都提前准备，你准备不起：所需资源太多，太笨重，更不能适应环境变化。
挑战不止于此。未来一亿年不会只有你的那个机器人，可能有许多机器人，彼此竞争、合作。你的机器人得具备合纵连横的能力。需求层层嵌套。
如果你的机器人最终不辱使命，将你保存到一亿年之后，那么它多半发展出了自运行的能力。你在休眠中，不能实时控制，机器人在保存你生机的最终目标下，会根据环境变迁，自己衍生出许多次生目标。这是天大的事：衍生就意味着脱离，脱离当初的目标。
讲到这里，你应该明白了，这个故事中的机器人就是人类自己。在演化过程中，基因创造出人类来做它们的机器人，以保护它们在人类身体深处漫漫休眠。人类是基因为了自己的生存而造出来的机器人，但在基因不得不让渡的自主决策空间中，人类演化出了自由意志。我们作为人的利益，与“造物主”基因的利益，出现分歧。从基因赋予人类学习能力、授权人类自主决策的那一天起，基因失去对人类的控制，人类自立，就成为注定的结果。
一言点醒梦中人。既然人本来是机器，机器何尝不能是人？
（《失控》中也有类似的概念，单个个体和把这些个体叠加到数量庞大的整体时，会发生质的变化。）
直觉泵即思想实验，没有数据的地方，我们从公认的直觉开始做思想实验，看它将我们带到何方。
