《超级智能》一书中谈到人工智能可以分为高速超级智能 、集体超级智能和素质超级智能 。
高速超级智能是指该系统可以完成人类智能可以完成的所有事 ,但是速度快很多 。比如全脑仿真系统,这种系统的速度比人脑快一万倍 ,可以在几秒内读完一本书 ,用一个下午的时间写完一篇博士论文 。如果速度比人脑快 1 0 0万倍 ,仿真系统可以在一个工作日内完成人类 1 0 0 0年的智力工作 。
集体超级智能是指指该系统有数目庞大的小型智能组成 ,在很多一般领域的整体性能都大大超过所有现有的认知系统 。
素质超级智能是指一个至少和人类大脑一样快 ,并且聪明程度与人类相比有巨大的质的超越的系统 。只有素质智能才可能是人类的“终结者”。
智能大爆发,甚至奴役人类可能需要时段。分为迅速的智能大爆发和温和的智能大爆发。
迅速的智能大爆发往往发生在非常短的时间内(比如几分钟 、几小时或者几天 ) 。人们没有足够的时间做出反应 ,往往是在整个爆发过程结束之后都没能意识到问题所在 。
听过一个故事,说有一个顶级的科学家有拥有一个人类最先进的机器人,那时候大部分的社会工作都由机器人完成。这个机器人从不不联网,主要的工作是为科学家写的书签名。有一次,机器人突然对科学家提出了联网的要求。科学家觉得偶尔联网也没有关系,可以让机器人学会网络上的东西。于是科学家开通了联网功能,然后去实验室研究新产品。就这小小的动作,差点导致人类世界的灭亡。在科学家走后的一个小时,机器人从世界各国银行盗走了一半的资金,他控制了军队政府的所有机器人,通过政治胁迫,刺杀了所有反对机器人的军队领导。占领了医院政府及监狱,让机器人和人类制造设备,生产科学家的书,然后让机器人学会签名,它甚至占领了月球和火星基地,制造大量的印刷设备。这些事情都是在短短一小时的时间爆发的。这听起来有点天方夜谭,但未来的某一天切实可能发生的。
相对于迅速的智能大爆发,是温和的智能大爆发,这个时间阶段可能是几个月或几年,甚至几十年,就像人在酝酿大阴谋一样,需要时间,而且是一个漫长的过程,这个过程中,很容易让人类发现疑点。有可能在这时人类已经做好了准备,并提早做了反击。当然最终还是有可能人工智能胜出,人类同样会陷入危险的境地。所以防范人工能的叛变变的尤为重要。