阿尔法战胜李世乭,如果李世乭确实发挥了正常实力的话,是人类文明的悲剧。这个悲剧的意义胜过任何过去我们所知道的一切悲剧的总和,如果在接下来的四天中李世乭不能逆转的话,那么我们的所有文明成果,都将被迫面临最彻底的反思,这种反思首先将拷问人类文明存在的意义。
绝大部分人,可能DeepMind团队自己都相信,无论比赛输赢如何,获胜的都是人类。这种判断基于两个基本事实:第一,阿尔法距离自我意识还很远,无法构成安全威胁;第二,阿尔法再强,那也是人类文明的创造物,阿尔法打败李世乭,只能说明有人,或者说一群人,比李世乭一个人强。
我认为以上说法是错误的。
第一句话等于废话,假设有一颗彗星要撞击地球,它毫无自我意识,不过人类文明会立刻消失。我们之所以不怎么担心只是因为这概率太低。同样,人工智能消灭人类的概率,现在还太低,可能比我的假设还低。但是请反思一下霍金的预言……,霍金的“前任”,爱因斯坦的预言可是都实现了。
第二句话是重点。它的基本错误在于,有意无意地忽略掉人所区别于机器的本质特征。人们似乎忘了,围棋与象棋的一个区别是,它比象棋更加依靠“人的方式”而非纯粹逻辑。“人的方式”在这里我借用一个现象学术语来表述,即“本质直观”。围棋在更重要的层面上,依赖棋手的经验积累所产生的“直觉”。过去电脑之所以只能在象棋上击败人类,那正是因为虽然象棋也依赖经验和直觉,但是其程度尚不足以取代纯粹逻辑,所以电脑可以用“蛮干”的计算来算清全部变化从而干掉人类。
一旦抓住了“本质直观”这个要点,问题就出现了令人窒息的转变。
“本质直观”是建立在语言的基础上的。在海德格尔等大师的体系中,语言正是人之所以为人的特点。而人类文明的所有精粹,都极大程度地建立在这个基础上,因为文明的创造和传承只有在语言的诠释中才得以实现,而各种科学、艺术等方面的创造,往往又建立在“本质直观”的活动上。现在的事实是,机器告诉我们,你们人类文明的所有创造和诠释所依赖的人的特质,是可以被电脑的算法所取代的。请注意,我所说的并不是电脑可以像人类一样进行本质直观,也就是说,电脑不可能有任何艺术或者哲学能力。我的意思是,这些人类独有的能力,所创造出来的各种意义,现在可以被纯粹逻辑所取代,电脑能创造的比人类更好,只凭逻辑。
因此,电脑治病、电脑教书、电脑创作唐诗宋词都不再是人类的专利了……。
这件事请的悲剧意义在于,我们人类引以为骄傲的文明,其价值可能并不如我们所认为的这么高。电脑,它不能做人类的事儿,但是它能用另一种“死”的方法做的比人类好!它可以创造出电脑自己意识不到,但是却能让人类理解、诠释、学习,进而尊重,崇拜的东西。
也许不久的将来,评论家们得开始学习向大众解释电脑画的印象派作品,或者电脑编剧、执导的一部影片。当电脑断电后,它完全不知道自己做了什么。可是人类开始认真地分析电脑的创造物,艺术家们痛苦地与大众争论,我的作品,不比计算机的差。可是,钢琴家总有弹错琴键的时候,画家总有手抖的一刻,可是电脑不会,它可以一个“人”担负一个乐团的的全部工作,每次演绎都各有特点,大不相同,但是每次都质量都可以和卡拉扬指挥柏林爱乐媲美;它一天就可能画出的画的数量,可能超过人类所有画家的总和,而且,每一幅都是绝世名画;甚至,人类今后得在每次工作做完后,向电脑索取对自己工作的评价……而这些,人工智能都是在无意识地情况下完成的。
当然,我们还能说,逻辑也是人类发明的,电脑仍然在使用人的工具,但是,文明之所以有意义,正在于其创造和传承诠释方式的无穷多样性,全凭逻辑,等于死亡。
这时,我们还会觉得自己几千年来的文明成果有任何的价值么?如果有,价值在哪里?
也许,人工智能将永远不会获得自我意识,但是它能以这种无自我意识的方式毁掉整个人类文明。