比如我举个例子,二战的时候,美国的曼哈顿工程大家可能听说过,就是要造原子弹,其中很多的小工厂接到的订单都是奇奇怪怪的,叫它生产一个很怪的零件。这些零件用在什么事情上面呢?是高度国防机密。但是,总有人知道曼哈顿计划是怎么回事,批准曼哈顿计划的罗斯福总统当然是知道的,曼哈顿工程的总管大科学家冯·诺依曼当然是知道的,你总得有人知道。
但是,在中文屋里面,除了我约翰·塞尔不知道以外,没有任何人知道我们搬运的这些字符是什么,所以你抽象地说系统整体知道,有什么经验证据来证明你说的是对的呢?我可以问公司的领导意图是什么,他说得出来,就证明公司是知道意图的。现在你在中文屋里面,你找谁去问整个系统到底是不是知道这个意思?你找不到一个能够落实的人,所以系统论证是不行的。
又有人说,约翰·塞尔你说的这个问题,就是符号和外部世界怎么样结合的问题。比如你说红这个词,如果我不把红色的样本和红这个词联系起来,你当然不知道红的意思是什么了,所以不要紧,我们现在设想把你的中文屋升级,屋里的人和屋外的人不仅可以看字符,而且可以分享一些图片或者视频,一个红苹果、一块红布等等,在这样的一个情况下,不同的语词的含义到底是怎么回事,就可以理解了。而且这个工作也可以在人工智能的范围内做,一台机器可以看一段视频,然后它就知道Red这个词应该和红色的具体的图像结合在一起,这不是很好吗?