前一阵写了一篇文章稍微提及人工智能，又看到自然杂志上一篇Stuart Russell点评《生命3.0》一书的文章，正好暗合对人工智能未来的思考。但是无论是我还是Stuart Russell，我们的观点都不够客观。因为评论者自己也说，跟本书的作者有相同的利益关系。2014年，Stuart Russell和物理学家Stephen Hawking（斯蒂芬·霍金）以及Frank Wilczek（弗朗克·韦尔切克）一起在《赫芬顿邮报》上发表了文章《人类对超级智能机器的盲目乐观》。文章表面上是点评Wally Pfister的反乌托邦AI电影《超验骇客》，实际是籍此呼吁AI圈严肃对待人工智能的风险。因为是同一战线的战友，所以观点难免摆脱不了自身的局限以及偏见吧！当然乐观派可以找到很多反驳的理由。
我想所有的科学技术工作者都深信不疑：科技可以创造更美好的未来！就像我之前所说的，人类在科技发展史上确实无意中打开了很多“潘多拉魔盒”，但是这些创造我们只称之为物体，并没有生物学上的意义。就像一把枪一样，保护别人或者杀死别人，只取决于使用者的意志。我看知乎上有很多人把人工智能也比喻成一把枪，我觉得这个比喻是十分不恰当的。我们现在讨论的人工智能，绝不是现在我们所看见的人工智能。在这一点上来说，现在的人工智能一点也不智能。我们所讨论的人工智能，是在遥远的未来可能存在的一种具有自我意识的物体。具有自我意识的物体已经不能被认为是“一把枪”，而是某种与碳基生命相对应得另外一种生命形式——硅基生命。
此书书名意指演化史上的第三个阶段。生命几乎用了40亿年来完善硬件（躯体）和软件（生成行为的能力）。又过了10万年，学习和文化使人类能够适应并控制自己的软件。即将来临的第三阶段，生命的软件和硬件都将能够被重新设计。这听上去像是超人类主义——主张重新设计人体和人脑——但Tegmark的关注点是AI，即通过外部仪器补充心智能力。
第三阶段，在《人类简史》最后部分对未来的展望中，仿生工程的崛起，机器与人类的结合，将是机器对人类社会的伦理道德最初的冲击，将会又是一轮对诸如生命，灵魂，意识的探讨（《攻壳机动队》便是这是这类影视作品典型的代表）。
碳基生命花了40亿年进行准备，而智人只用了10万年就完成了认知革命，农业革命，工业革命。而这个时间点极有可能是亚当和夏娃偷吃了禁果而拥有自我意识的时候，一旦拥有这些，智人的进化速度将呈指数级增长。我想人工智能也会有这个过程，我们假定硅基生命的准备过程在一千年（事实上肯定会更短），根据这一比例计算在人工智能拥有自我意识后，大概需要九天左右的时间就可以达到甚至超越人类的智力水平，实际情况肯定更快，最多也会在几小时内完成。
计算机先驱阿兰·图灵1951年提出了一种可能性——我们人类再强大也只能在AI面前相形见绌，表达了制造比自己聪明的东西会引起的普遍不安。仅仅靠图灵测试来判断一台机器是否有意识是非常单一方式而且远远不够的。我们所预想的意识只是想让机器模仿人类的思维方式，假设某个智商远高人类的外星人没有通过图灵测试，我们就可以否定他的智商和自我意识吗？
控制论奠基人Norbert Wiener于1960年写道：“我们最好非常确定赋予机器的意图是我们真实期望的意图。”或者，按Tegmark的说法，“现在不知道如何给一个超级智能的AI灌输一个既不会定义不明又不会导致人类灭亡的终极目标。”在Stuart Russell看来，这既是一个技术问题，也是一个哲学问题。
在《我，机器人》中，即使有著名的机器人三大定律，却仍然无济于事。一方面我们的语言可能存在潜在逻辑上的漏洞；另一方面我们对人工智能的思维方式一无所知，我们更加不知道他们的伦理观和道德观，他们以何种方式来理解我们的语言。
《经济学人》杂志简单地叙述过这个重要的问题：“在地球上引入第二个智能物种，影响深远，值得认真思考”。
早期智人似乎不太喜欢和自己相似的近亲，因此在智人的崛起过程中，诸如尼安德特人等近亲逐渐绝迹，一些证据都指向智人是罪魁祸首。就连现在种族主义都仍然存在，更别说要智人再去承认另外一个智人自己创造的智能物种。即使人类愿意和平共处，我们也不知道人工智能的想法。这不就是另外一种“黑暗森林”。想到最近才看过的《猩球崛起》电影，把人类创造出来的智能大猩猩换成人工智能不要太合适。
目前提出警惕人工智能的有霍金、比尔盖茨、马斯克等，结合《生命3.0》作者Tegmark也是物理学家，似乎物理学家们普遍担忧。李开复、扎克伯格等一批科技公司领袖普遍看好人工智能的未来。每个人的背后利益都不一样，因此对事物的思考也不同，不得不说人工智能所能创造的财富超乎想象。
科学家帕特森在测量地球年龄的过程中无意中发现含铅汽油危害的铁证，石油商们的第一反应是对他威逼利诱，还雇佣了权威科学家为含铅汽油辩解。
http://www.360doc.com/content/15/0121/06/45254_442462927.shtml
不是阴谋论，人工智能的利益远超石油，其中是不是也会有财团在暗中操作。无论怎么样，人工智能的发展趋势不可能随着一些人的意志而改变，就像我们连智能手机都抗拒不了。更何况对未来社会，人工智能所提供的便利远超智能手机。
是走向准乌托邦还是走向毁灭？本书作者并没有给出答案，全凭读者自己思考。
