阿西莫夫的《我,机器人》,在1950年末由格诺姆出版社出版。
阿西莫夫这本书把“机器人三大法则”放在了最突出、最醒目的地位,很显然,作者也担心未来的机器人会进化到威胁人类,就提前给机器人定好三条天规,以约束机器人。
而三条天规之间的互相约束,为后世的人们引以为鉴。
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
三定律在科幻小说中大放光彩,在一些其他作者的科幻小说中的机器人也遵守这三条定律。
同时,三定律也具有一定的现实意义,在三定律基础上建立新兴学科“机械伦理学”旨在研究人类和机械之间的关系。
虽然截至2006年,三定律在现实机器人工业中没有应用,但很多人工智能和机器人领域的技术专家也认同这个准则,随着技术的发展,三定律可能成为未来机器人的安全准则。
阿西莫夫在后来的小说中又补充了“机器人零定律”:
第零定律:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。
阿西莫夫之后,人们不断提出对机器人三原则的补充、修正。到今天已形成如下原则:
元原则:机器人不得实施行为,除非该行为符合机器人原则。
第零原则:机器人不得伤害人类整体,或者因不作为致使人类整体受到伤害。
第一原则:除非违反高阶原则,机器人不得伤害人类个体,或者因不作为致使人类个体受到伤害。
第二原则:机器人必须服从人类的命令,除非该命令与高阶原则抵触。
机器人必须服从上级机器人的命令,除非该命令与高阶原则抵触。
第三原则:如不与高阶原则抵触,机器人必须保护上级机器人和自己之存在。
第四原则:除非违反高阶原则,机器人必须执行内置程序赋予的职能。
繁殖原则:机器人不得参与机器人的设计和制造,除非新机器人的行为符合机器人原则。
可以想象未来给机器人定的原则会越来越多,人们总会担心自己会不会制出一个不可控制的怪物,人类与未来的博弈永无止境。请关注: 远方的狮