译者注：无人驾驶汽车面临的绝不仅仅是安全性上的顾虑，在其背后隐藏的巨大伦理问题至今没有得到谷歌等行业巨头或来自社会的合理解释。值得注意的是，这些问题并不仅仅是这个高新产业带来的，而它们将会成为一把把悬挂在科技革新头上的达摩克利斯之剑。

无人驾驶汽车与电车难题

原作者：Tanay Jaipuria

译者：励定洲

谷歌最近声称他们的无人驾驶汽车已经行驶超过百万英里了。Morgan Stanley称无人驾驶汽车将会在2025年投入量产，这不禁让我对这些车子背后的伦理问题产生思考，而这也正是这篇文章将要讲述的。

机器人法则

在1942年时，Isaac Asimov在他的短篇小说“Runaround”中提出了关于机器人学的三条制约性的法则：

机器人不得伤害人类，或因不作为使人类受到伤害；

除非违背第一法则，机器人必须服从人类的命令；

在不违背第一及第二法则下，机器人必须保护自己；

但在1985年，《机器人与帝国》这本书中，阿西莫夫将三大法则扩张为四大法则：

机器人不得伤害人类这族群，或因不作为使人类这族群受到伤害；

这篇小说很好地提供了一个关于人工智能与人类社会共生的伦理背景。毫无疑问，车也应当遵守那些法则。时抛开那些关于无人驾驶汽车会导致出租车和卡车司机失业的争论，毕竟这不至于和前两条法则冲突。

然而，有一个问题，机器人法则并没有提到，也没有显露出任何解决方案。

电车难题

这是一个著名的哲学实验性猜想，被称为电车难题：

一辆有轨电车，突然失去了控制（原因待查）。在轨道正前方，正巧——或者说不幸，有五个铁路工人在施工。如果不作任何处理，电车将直接撞上这五个工人，不存在任何侥幸。司机无法刹车——刹车已经失灵（原因依然不详）！但，司机并不是眼睁睁看着惨剧发生，他还有一个唯一的选项——电车方向盘还是有用的，他可以扳动一下方向，使电车驶进另外一条轨道。在另外一条轨道上，只有一名工人。因此，如果司机扳动方向，他可以救下那五个人，但要轧死另外一个人。司机应当怎样做？

你又会怎么做？

显然我们的无人驾驶汽车也可能面临一样的窘境，是的，所有交通工具都要面对同样的问题。

比如说一辆由人类驾驶的汽车在行驶中途紧急刹车，这时紧随其后的无人驾驶汽车会面临两个选择：

保持路径不变，撞向前面那辆车，从而坐在车里的一家五口；

向右转向，撞向另一辆搭乘一人的车，从而杀死那个人；

车子应该怎么做？

从功利主义的角度来说，答案显而易见；向右转向（等同于电车难题里的扳动电车方向盘），杀死一人，而非五人。

顺带一提，在一个由行业人士参与组织评定的大众调查中显示，有68.2%的人都声称他们会选择扳动电车方向盘。所以这或许并不能完全称之为一个问题，从功利性的角度来说，答案看起来简单透了：“胜利属于大多数”。

但是你会能想象一个任何独立个体都能因为所谓的道德约束而在任何时刻都可以通过牺牲自我来拯救两个其他人生命的世界吗？

我们在之前提过，电车朝着五人驶去。而你正站即将驶来的电车头顶的一座桥上，你可以把一些够分量的重物放置在电车前头来停止它。恰好，有一位胖子在你边上看风景，在这种情况下，旁观者同样有两个选择：可以把这个胖子推下去，拦住电车，杀死一个人，挽救五个人的生命；也可以什么都不做。

在一开始那个版本的问题里曾因功利性而进行选择的那群“大多数人”在面对这一稍作改动的问题时都表示他们不会去推胖子下桥。再回到功利主义的角度，这个问题本质上和之前的那一版本没有任何不同，是什么让受访者改变了主意？到底有没有一个所谓正确的最终答案？

Kant的绝对命令法则在一定程度上能帮我们去更好地理解这档子事：

“不论做什么，总应该做到使你的意志所遵循的准则永远同时能够成为一条普遍的立法原理。”

简单来说，我们不应该仅仅把某个个体的终结作为取胜的手段。为了拯救其他人而杀死某人并非一件了不起的事，在Kant的法则里这带来的是一种双输的局面。

其实从功利主义的角度来看待这类案例或多或少显得有些天真，至少取决于我们如何来定义这些案例。这是一个复杂的世界，所谓的正解绝不仅仅是要去拯救“更多”的人。设想一下，回到我们最开始提到的那个汽车的问题上，这次车里做的不是一家五口，而是五个银行大盗怒闯红灯。而在边上的另一辆车里坐着一位刚刚攻克癌症难题的知名科学家。你仍会选择执行“多数人优先”的法则来行事吗？

或许我们能够通过对功利主义进行更深层次的定义来解决这个问题---对每一条生命个体进行价值评估。在这个案例里，如果我们认为这位科学家的生命从价值的叫来说要高于五个强盗的总和，那么正确的答案可能是杀死五个盗贼。

然而，你能想象未来的某一天里，谷歌或苹果为我们每一条生命都赋予了一个价值，然后能在任何时候撞死我们来拯救他人？你真的觉得这好吗？

现在或许你大致看明白了，即便答案从一开始看起来很容易得出，渐渐地它却让整个问题变得有趣和深奥，尤其是随着无人驾驶汽车的到来。谷歌、苹果、Uber等，可能会在某一天得到一个属于他们的答案。To pull, or not to pull?

最后的最后，我想再给大家留下一个关于所有权的开放性问题供你们思考：假设有一辆无人驾驶汽车里坐着一位乘客---它的所有者。在大雨中疾驰时突然遇到前方在悬崖峭壁前急刹的一辆车，眼看就要撞到对方了。这时无人驾驶汽车面临的选择：保持路径把前面按两车撞下悬崖，调转方向然后自己冲下山崖？两辆车里都各有一位乘客，汽车应该作何抉择？问题在于，它是否应该偏向那位购买了它的人，即它的所有者？