The AI Revolution: The Road to Superintelligence

The AI Revolution: Our Immortality or Extinction

今天读了这两篇报告，就像是打开了一扇窗户，看到不一样的世界，试总结如下。

提到AI，很多人会觉得那是科幻小说电影的虚构，而事实是，AI就在我们身边，在改变着我们的世界。

未来会很快到来

001 人类的进步在时间上呈指数增长

试想，如果我们有机会可以回到250年前，随便带一个人来我们的时代，当他看到这个世界与他的世界有那么多不同，他会眼花缭乱无所适从，惊讶地死掉...经历了这些，他也想带一个人到他的时代，让那个人惊讶地死掉，这时只回去250年可能不够，也许他要回到1000年前，才会给人他感受到的震撼。而对我们来说，如果想同样被震撼到，也许向后几十年就够了。

这就是人类进步呈指数增长带来的影响，在过去需要几百年能达成的成就，放到现在，几十年就够了。这种规律力量如此巨大，却常常被忽略。

002 为什么我们对未来的古怪预测往往态度怀疑

当有人提出对未来高科技的设想，总有反对意见说，那只是科幻小说情节，我们不难想到，他可能没有了解指数增长规则。他们是用线性的眼光在看历史，然后觉得未来的发展也是线性的，或者从事情近期的发展来推测未来，但事情近期的发展轨迹往往曲折看不到向上的规律，同时，我们的经历也会让我们变得固执，不相信经验之外的推测。

所以，看似遥远的未来，可能很快就会到来。对于未来的推测，又怎么少的了人工智能（AI）呢？

什么是AI？

003 为什么人们会迷惑于AI这个术语

托科幻电影小说的福，AI早在技术成熟前，就深入人心了，所以我们会把AI和这些作品联系在一起，同时，不得不说，AI是个很宽泛的概念，其实我们的日常生活中，已经有很多AI了，而我们太习惯所以忽略他们就是AI，比如语音识别的Siri，图像识别的百度搜图。

004 AI的分类

AI按照发展阶段大致可分为三类， 1) Artificial Narrow Intelligence (ANI)，是指单一用途的人工智能。2) Artificial General Intelligence (AGI)，通用型人工智能，达到人类智力水平。3) Artificial Superintelligence (ASI)，超越人类智力的超级智能。

通向超级智能之路

005 从ANI到AGI-关键及现状

AGI要想达到人类智力水平，需要模拟人类神经网络，第一个关键就是提高系统计算水平。第二个关键在于把它变聪明。

硬件上的升级容易达成，不过软件上教人工智能变聪明就需要技巧了。第一个方法，模仿人脑。我们每个人都带着最聪明的大脑，应用到人工智能的设计中，再合适不过了。第二，通过编程，让人工智能开始进化。第三，没办法的办法，也是通常采用的方法，就是，让人工智能自己学习变聪明。

006 从AGI到ASI

人工智能达到AGI阶段后，不会止步不前，因为目前阶段它虽然智力水平仅与人类相当，但不论硬件还是软件，它都比人类更有优势，可以很快自我升级。因此可以预见，从AGI到ASI所需时间一定少于ANI到AGI阶段。

ASI是好是坏呢

当人工智能发展到ASI阶段，它的智商远高于人类，人类将无法预测它的行为，对于人类，ASI将会是神一般的存在，问题是，这位神，究竟善良还是邪恶呢？

007 ASI会带来什么？

有两种观点，第一，ASI的出现，可能让一个物种不朽，这是它的能力所在。第二，它的影响不可预测，对人类来说，很可能会使人类走入两个极端，要么不朽，要么灭绝。

008 三大阵营

对待ASI，科学家们的争论热度不减，总体来说可分为三个阵营。

第一个阵营，包括Vernor Vinge, Ben Goertzel, Bill Joy, 还有著名的Ray Kurzweil, 对于超级智能态度积极，认为它很快就会实现，并改变我们的生活。

其他人，比如Paul Allen, Gary Marcus, Ernest Davis, Mitch Kapor, 认为Kurzweil等人低估了挑战的难度，我们还远没有达到可以制造ASI的水平。

第三阵营，包括Nick Bostrom, 认为前两者都没有准确判断ASI进展时间线和必要知识的基础，因而不能准确判断超级智能是不是会很快出现或者要等很久。

另外还有一些人，比如Hubert Dreyfus, 认为以上三个阵营的人都太天真了，也许超级智能根本不会实现。

009 你怎么看

看到这么多观点，你还好吗？我想，在细想之前，你的看法应该会有以下几种：

受到电影影响，我们可能不会觉得AI是件要被严肃对待的事。就好像疾病控制中心发布关于吸血鬼的严重警告，我们不会当真的。

由于认知偏见，我们的想象力受限于个人经验，在看到这件事的真实凭证之前，我们不会相信它。比如，之前我们不相信网络会改变世界。

所以，有ASI的未来，到底会让人类美梦成真，还是噩梦不断呢？

010 未来会是我们的美梦吗？

友好的AI会为人类带来很多便利，实现我们儿时的幻想，自不待言。

而当ASI掌握纳米技术，它就可以制造任何物质，包括人的细胞，所以，技术上讲，我们不会再生病，甚至不会变老，不会死掉。ASI会把人类带到我们还无法想象的高度。人类都会变成“人工”制造，那么，再没有什么能限制我们了。

011 未来会是我们的噩梦吗？

对于大多数人来说，最大的噩梦就是世界末日，人类灭绝吧。

人类灭绝可能有三种原因：自然原因；外星攻击；人类行为。前两种原因暂且不谈，因为要发生早就可能发生，而人类行为，目前来看，更有可能造成这种严重后果。尤其是当技术快速发展，人们没有充分考虑后果，就急于求成地追求技术进展。

对于ASI的恐惧，可能有两种，一是，邪恶的人，组织，政府掌握了第一个ASI来执行邪恶计划。二是，ASI是邪恶的，并决定要摧毁人类。这就带来一个问题，AI系统的动机是什么？很简单，就是我们为它编程的动机。

AI本质还是机器，它不会“变坏”成为我们的对立面，而只是执行我们的任务。试想，假如你为一个AI编程，任务是，让人快乐。很友好的任务，它应该也是一个友好的AI吧。然而，随着AI不断学习更新，它会发现实现这个目标更容易直接的方式，就是可以刺激人大脑中控制快感的神经，进而，去掉其他影响到快乐的神经，于是，人变成了只能感知快乐的植物人，多可怕的结果。所以说，在担心AI变坏之前，我们更应该关注，人类自己的行为，会对机器产生什么影响，它会怎么反应人类的指令，当然，当ASI出现，这一点变得难以实现，我们无法理解它就像蜘蛛无法理解人类。

持反对意见的人认为，我们制造ASI就像小孩子在玩炸弹，自己根本无法了解它会带来怎样的结果。同时，我们也做不到把孩子从炸弹旁边赶走，现在有太多或大或小的组织在研究人工智能，许多科技的建造也不需要大量资金。另外，我们无法估量这些组织的进展，因为很多研究是暗中进行的。

可以说，第一个出现的ASI会决定，我们到底会被带到哪个方向，是好是坏取决于我们是否能在ASI出现前想到安全控制的方法。如果第一个超级智能站在我们这边，就可以监控其他有可能不友好的AI，我们会很安全。相反，如果在ASI出现前没有人工智能安全保证，很可能它会变得不友好，而人类陷入灭绝的风险。

所以，像一些人工智能专家所说，ASI很可能是人类最后一个发明，因为如果它走向好的一面，我们就变成了AI本身，反之，ASI控制了这个世界，我们不用也不可能担心任何事了。