第二部分 重塑社会，拥抱智能大未来
A Guide to Wealth and Work in the Age of Artificial Intelligence
05 机器人犯罪，谁才该负责
未来的法律
中世纪时，人们认为动物对错，拥有道德能力（moral agency），所以会对动物起诉。
道德行为体：必须有能力完成两件事。
1.他们必须能感知到他们的行为后果中与道德相关的部分；
2.必须有能力在行动方案之间做出选择。
- 墨西哥石油漏油事件，不只是个人是道德行为体，公司同样需要承担道德责任，负有刑事责任。
那么合成智能呢？
自动驾驶汽车可以为了救人而碾压一条狗；面对一对老夫妇和过马路的孩子如何做出选择；后座和前座的两个孩子，必须杀死一个，如何做出选择。 -
人造道德行为体：计算伦理学领域的一些研究者，正在努力用一种“自顶向下”的方式去创造，通过推理去选择和实现道德原则。
其他人追求一种“自底向上”的策略，通过向机器学习算法展示足够多的相关例子，来获得答案。 - 代理人：是一个授权的独立体，在双方协定下，代表当事人的行为。代理人在知情的情况下代表你犯罪，你和代理人都需要承担责任。而如果代理人在为我们服务时不知情，然后犯罪，我们不应该对此负责。
任何公司都可以是当事人和代理人，而且可以作为独立的主体被指控犯罪。
- 机器人在买咖啡途中，逮捕假犯罪人的案例，说明操作机器人的人是否应该判定为犯罪。同时，用户和生产机器人的公司到底哪个应该负责人。最后可能的判决结果是，抹除机器人的记忆，然后交给受损方托管12个月。由此，一系列的判例和法律体系开始诞生。
强制“失忆”，最好的惩罚？
机器人中的机器学习程序，根据训练集的示例（个体经验）来做出行为决定，所以某种情况下，人不知道下一步会采取什么措施，所以不需要负责。人和公司的处置方法不同，人和合成智能也不会相同。
你怎么会指望一家公司有良心呢，他没有灵魂可以下地狱，他没有身体可以让你施以暴力
对人：我们可以剥夺犯罪人的生命，自由，或者追求幸福的权利。
对公司：征收罚款，让他关门。
机器学习算法产生了某个问题后，为了找到源头可能需要删除整个数据库，但是这个程序是花费大量的数据和资金训练出来的。
让人造人拥有资产
以后合成智能可以赋予权利，也需要承担责任。拥有资产的呼声会越来越强烈，可用于独立于所有者的没收和罚款。
- 赋人造人以权利。合成智能也许会判定为人造人（artificial persons）,同时带来一系列的权利和责任。权力中最重要的是签订合同和拥有资产的权利。
他们会不懈的追求我们为其设定的目标，并且在和人类的竞争中胜出，而且可能仅仅是在名义上收我们控制--这种情况至少会延续到我们建立其道德和法律框架之前，有了这些框架，我们才能把他们整个为人类社会中高效的伙伴。
