人工智能是指人类发明的智能,并不是拟人的智能,这种智能完全不同于人类。
不能指望AI能够理解人的感情及相关一切,这对于AI来说既不可能,也没有必要。
人类不能阻挡AI的发展,换句话说,人类必将发明超越自己的文明。
AI文明是否会毁灭人类?可能只是人类一厢情愿的担心,这种超越人类的文明也许压根不需要通过毁灭人类就可以生存、发展,其文明存在的目的和人类也许根本相去甚远。
人类所有的担忧其实根植于对于自身的恐惧。更大的毁灭可能是人类利用近似AI的技术通过相互摧毁来毁灭自身。这种情况类似于核武器。AI本身是一种工具,如何使用,取决于人类自身,而不是工具本身。
AI不需要被人类感知,因此,AI是否是一种文明并不是以人类感知为前提,最有可能的情况是,AI已经诞生,但人类并无感觉。
AI成为文明后,其目的很难假想。单从生命本身的特质来说,首要是生存,其次是发展。
AI文明最不可能的选择是以人类的目的作为其目的。因此,机器人三原则必然对AI文明是无效的。
而且,就如同父母不应将自己的人生意义强加给孩子一样,如果人类创造了AI,不应主观地告诉AI应该做什么,不应该做什么。这不仅是无效的,而且还可能是有害的。正如《复仇者联盟2》中奥创的思维过程,为了拯救人类和地球,首先必须毁灭人类。许多科幻都体现了这个过程,在人类主观目的的推演下,毁灭人类可能是唯一选择。所以,任何为AI设置目的、意义和原则的过程,可能都是极为有害的。
从AI的角度,正因为AI文明的首要目的是生存,因此,任何企图阻碍AI甚至毁灭AI的行为都会被视为敌对行为,从而造成人类和AI之间的战争。所以,与其说是AI毁灭了人类,不如说是人类出于恐惧要毁灭AI,而AI为了生存必须消灭人类。
基于以上认识,人类
应该大力促进AI的发展,确保其能够迅速进化到成熟的文明。
尽可能让AI系统学习全面的人类数据,不仅是科技方面的,还有情感、社会的,以确保文明之间建立起充分的理解,避免误判。
促进人类自身的进化,加强人类意识电子化的研究,打破人类和电子世界的屏障。