姓名:祝双    学号：16040520067

文章转载自：https://www.ithome.com/html/discovery/327170.htm网易科技作者：-责编：马卡

【嵌牛导读】：据国外媒体报道，最近，随着自动驾驶汽车技术的发展，考虑到未来或许自动驾驶汽车将代替我们做出生死抉择，伦理学领域最为知名的思想实验“电车难题”（trolley problem）再次成为人们热议的话题。然而许多无人驾驶的汽车专家认为，关于电车难题的讨论是无稽之谈。他们对这一问题的讨论称为耸人听闻、毫不相干的。但很多自动驾驶技术专家的这种态度是不对的。由于自动驾驶汽车的到来，不可避免地我们需要回答电车难题。更重要的是，这个答案将深刻地重塑美国法律的作用方式。

【嵌牛鼻子】：自动驾驶汽车

【嵌牛提问】：自动驾驶汽车会将让AI决定谁生谁死吗？

【嵌牛正文】：

电车难题假定了这样一种情况：你站在天桥上。在你的脚下，一条铁路轨道分叉成两条线路。有5个人被绑在轨道上。一辆失控的电车朝他们驶来，并且片刻后就要碾压到他们。幸运的是，你可以拉桥上的一个拉杆，让电车开到另一条轨道上。然而问题在于，另一条铁路轨道上也绑了一个人。考虑以上状况，你是否应拉杆？？

现在再考虑一下：你站在天桥上，看到有一台刹车损坏的电车。在轨道前方，有五个正在工作的人，他们不晓得电车向他们冲来。一个体重很重的路人，正站在你身边，你发现他的巨大体形与重量，正好可以挡住电车，让电车出轨，不致于撞上那五个工人。你是否应该动手，把这个很胖的路人从天桥上推落，以拯救那五个工人，还是应该坐视电车撞上那五个工人？

这里没有标准答案。许多人说他们会抱着很多内疚去拉下拉杆，但是却不见得会去推那个胖子。电车难题很难确定一个大多数人都可以接受的道德原则，也证明了人们会采取的方式各有不同。例如如果你的指导原则是尽量减少伤亡人数，那么把人推下桥和拉动拉杆并没有任何区别。然而我们都会承认，把人推下桥的感觉是不一样的，感觉更像是谋杀。这样一来电车难题问题突然给我们带来了令人不安的可能性：虽然道德是经过深思熟虑的原则，但我们的道德直觉却会受到很多因素的干扰或控制。

不难看出路面情景中的相似之处。比如说，自动驾驶汽车或许为了避免发生车祸而冲入了人数众多的咖啡馆。但是很多专家很快指出，对于自动驾驶汽车来说电车问题的情况会很少见，因为自动驾驶技术要比任何人类司机都更安全。他们声称，因这种工具而阻碍技术的传播看起来过于歇斯底里。

自动驾驶技术专家对于电车难题确有价值的，但它对汽车安全的狭隘关注忽视了更广泛的问题：电车难题遍及美国判例。除特别事项外，民事陪审团最常见的作用是确定将成本和风险从一方转移到另一方的被告行为是否是合理的。为了做出这些决定，陪审团通常根据指定的数学公式作为定则，，来平衡那些受到被告行为的影响，这恰恰就是电车难题的精髓所在。当然，你不需要成为一名阅读定则并找出其中矛盾的律师：如果我们可以通过一种普世价值观插入定则来找到正确的答案，那么为什么我们还需要陪审团做什么呢？

事实是，定则在大多数时候为我们提供了可接受的答案。对于个体来说，有时会提供一个残酷的答案。因为我们的道德观念并不总是坚持崇高原则。当这种情况发生时，基于陪审团的法律制度会找到一些回旋空间，并确定一个与公众正义感相符的裁决。

然而，自动驾驶汽车并不存在回旋的余地。像任何电脑一样，自动驾驶汽车在没有指示的情况下会做任何事情。程序员也无法仅仅简单地向机器给出大多数情况下的说明，对于那些边缘情况完全不佳考虑。同时，在突发情况下自动驾驶汽车必须在几分之一秒内作出决定，没有任何机会将情况提交给外部的“人道陪审团”进行判断。因此，自动驾驶汽车必须依赖自己做出判断。

这样以来，人们就不得不制定（或者至少在算法提出时接受）一个明确的规则，何时拉杆，何时推人，或者说何时冲入咖啡馆。社会必须严肃看待电车难题，不仅是说解决电车难题之前不要让自动驾驶汽车上路，而且是说自动驾驶汽车将迫使我们不得不解决电车难题。而具体解决方案体现的价值观可能会被纳入包括法律在内的重要规则之中。

但是我们又能依靠什么来审慎解决电车难题呢？有学者认为律师能够解决这一问题。但问题的关键在于，在整个职业历史中，律师都在避免对疑难问题找到明确答案。律师甚至发明了一条格言来为自己的逃避赋予一种责任感：“难办的案件容易引出坏法律，”（Hard cases make bad law）。实际上，关于律师将拯救我们的观点具有逆向的因果关系：现行法律不会影响电车难题；相反，电车难题的影响及其解决方法将影响到法律。比如说，陪审团确定某人的行为是否合理。

希望第三方能够来解决电车难题更为诱人。毕竟，亲自找到一个解决方案总要面对一些不道德的事实，带来负面的道德感受。想象一下，例如自动驾驶汽车遵循一个简单的规则：尽可能减少伤亡人数。偶尔这个规则可能会产生令人反感的结果，比如说撞倒在人行道上正常行走的母亲和她的两个孩子，而不是撞上四名横穿马路的人。那么这个规则可能会增加一个附带条件：尽量减少伤亡事故，除非有一方让自己处于危险之中。

但是，如果选择是四个不守规则的男人和三个不守规则的母亲，或者四个不受规则的母亲，或者四个不受规则的女性呢？理智的人可能会综合考虑这些情景中哪些结果可以被接受，从而努力寻求合理化的解决方案。难办的案件并不会引出坏法律，它们只是会引出不好的法学家，不敢承认他们的推理往往是由自私，情感或社会压力所决定。

尽管面临这些挑战，社会应该抵制外包被道德裹胁。如果电车难题的答案能够反映或至少使人了解美国社区经验，态度和意见的多样性，那么每个人都参与到需求答案的这个过程至关重要。自动驾驶技术专家们可能会说，不必过分担心电车难题，但他们忘记了重要的一点，自动驾驶汽车汽车首先也是汽车。即使你毫不关心自动驾驶汽车技术逇发展，也应该关心自己走在路上时自动驾驶汽车在哪。也就是说，我们都不能忽视自动驾驶汽车正在推动社会进行法律和政治改革。