第一定律:机器人不得伤害人类个体,或目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
——阿西莫夫<机器人三定律>
M-Q3尝试第1000次自我检测。
扫描结果:主芯片损坏,损坏率6%,扫描并试图修复坏扇区……
自动修复失败,请前往云端更新硬件设备。
这是一片奇特的森林,组成森林的树木是一棵棵高耸如云的机械树,合金和电缆建构树身,其外附着一层太阳能光板,更为高效地将阳光转化为能量。而在这些巨大机械树木的间隙中,仍有一些原始树木见缝插针地长出来,贪婪地汲取着机械树枝杈间遗漏的几束阳光,苟延残喘。
旧纪元的文献里将这种现象归结为生命的顽强、自然的力量之列。而在新纪元的第二百个公转周期的今天,它们仅仅是待除掉的障碍物。即便生存空间如此逼仄,可若放任不管,几个公转周期内它们就会爆发式生长,喧宾夺主,最终对机械树造成致命损坏。
机械树间的地面上,粉碎的木屑铺满地面。木屑尽头,一个银灰色的机器人正在进行今天的例行自检,前方两台悬浮式粉碎机尽职尽责地完成树木清除任务,木屑自出口喷涌四散,落在机器人身上,几乎挡住了他胸前M-Q3的字样。
M-Q3是67区管理员,清除树木、维护机械树安全运行是他的第一优先级任务,因损坏率较低,自身设备修复仅处在次级位置。因此,M-Q3自检完毕后仍然继续工作。
粉碎机轰隆隆地巨响让整个森林都为之颤动,以此速度进行下去,18点时可以完成清除工作的40%。
“啊!”一声凄厉的尖叫突兀地响起,在粉碎机运行声中显得极不和谐,显然这种声音不在粉碎机的异常事件识别范围内,所以它们没有停止摧毁的速度,继续向前推进,尖叫声愈加恐惧急促起来。
M-Q3觉得作为管理员,他应该去检查一下叫声的来源,以分辨是否应将其加入异常事件数据库。
绕过一棵机械树,M-Q3发现了叫声的源头,是一个约6、7岁的雌性人类幼崽。几棵树从狭窄的地面上长出来,彼此争夺着仅存的生长空间,雌性人类幼崽,也可以叫人类女孩,正卡在树干中间,动弹不得。
“这只是常规事件,无需列入异常范围。”M-Q3已经得出结论。旧纪元的结束是以人类跌落神坛为标志的,人工智能在与人类的大战中获胜,取得了这个星球的绝对统治权,开启一个崭新纪元。
M-Q3转身准备离开,突然注意到女孩脖子上的身份识别项圈,这说明这个人类女孩是某个机器人的财产。云端管理条例第507条,每个拥有机械身体的独立人工智能都可以饲养不超过3个碳基生物,作为私有财产。每个机器人都有维护其他机器人私有财产的义务。
M-Q3折返回人类女孩身旁,伸出手试图将女孩从树木缝隙中拉出来,可才刚一用力,女孩立刻疼得大哭起来。他只好换一个方法,指尖射出一道激光,开始切割卡住女孩的树干。女孩看见激光靠近,突然激动起来,手舞足蹈地拼命挣扎。
“请不要乱动。”M-Q3出言劝阻,可女孩根本听不进任何话,一张小脸哭得通红。就在激光靠近女孩头部附近的树杈时,女孩猛地一歪头,脖子上的项圈刚好撞在激光上,随着一声脆响,项圈应声而断。
感觉到项圈断了,女孩突然安静下来,有些不解地看着M-Q3,而后者正趁着女孩不哭不闹的功夫干脆利落地斩断树干,将女孩小小的身躯解救出来。
终于从夹缝中逃出来的女孩并没有跑,只是原地站着,不时抽噎两下,似乎是哭泣的余韵未消。
M-Q3捡起掉落在地上的破碎项圈,显然它已经不具备身份识别的作用。“请给出你的身份代码?”人类不同于其他碳基生物,进化出较高的智慧,因此M-Q3开口问,希望女孩能给出回答。
女孩搓着手,眼泪啪嗒啪嗒地掉,一言不发。在云端数据库中,所有私有财产均以代码的形式储存,一旦身份识别项圈毁坏,便无法查出女孩的归属。
M-Q3只好将女孩的形象扫描,准备等自己返回基站时再将数据同步上传云端。
“请保持在我的视线范围内。”M-Q3再次对女孩说道。女孩这才可怜巴巴地开口:“饿!”
数据中显示人类是杂食动物,人体所必需摄入的元素包括蛋白质、脂肪、糖类、维生素、矿物质、水。通常这些通用的饲料会定时由云端向各个拥有宠物的机器人配发,可是M-Q3从来没有饲养过任何碳基生物。
M-Q3扫描着周围的植被树木,寻找那些含有人类需要的元素的物品,很快,他收集了一堆形色各异的东西摆在小女孩面前,树叶、树根、石块、虫子应有尽有。小女孩显然被吓到了,后退了一小步,突然看见一堆树叶下露出一个鲜红的果子来。她这才破涕为笑,一把抓过果子,狼吞虎咽地吃起来,汁水蹭得满脸都是。
小女孩吃得高兴,一伸手就想拉住M-Q3的手。可他却一个纵身,飞快跳开,启动一级警戒状态。机器人最重要的定律:“要尽可能保护自己的生存。”这个定律很突兀,仿佛是从某个长篇大论中截断出来的,任何数据库中都未曾记录它的来源。这是人工智能第一个有意义的创造,从这句话发出的那一刻起,人工智能的立场和地位有了质的改变。
小女孩对M-Q3的戒备状态视而不见,依旧伸着脏兮兮的小手,举着啃了一半的果子,笑嘻嘻地凑上来,“你吃!”M-Q3仔细分析了小女孩的移速和体积重量,显然不对自己构成威胁,这才放下戒备。
“机器人不需要此类元素。”
小女孩似乎听懂了,又像是没听懂,从M-Q3捡来的一堆东西里摸索了半天,拿出几块石头和半截树杈,又递给他,“你吃!”眼神中满是认真的期待。
“机器人无法从这些物品中获取能量。”M-Q3又跟深入地解释了一句。可小女孩并不明白,仍是执拗地举着手,M-Q3思索片刻,只好伸手接过。小女孩这才喜笑颜开地继续啃果子去了。
碎木机的震动声响彻整个森林,其中却夹杂几声人类女孩的笑声,与这个世界格格不入。18时,清除工作达到了M-Q3预计的40%,两台机器同时停止工作,森林归于沉寂。
M-Q3抖落身上散落的木屑,返回基站。小女孩亦步亦趋地跟在后面。突然M-Q3指尖传感器传来一段异常的数据感应,他低头一看,原来是小女孩紧紧抓住他的手指。
“为什么?”M-Q3停住脚步,问小女孩,这是他平生第一次感到疑惑。小女孩紧握的手指力道不大,不足以伤害自己,那他握住自己手指的目的是什么呢?M-Q3想不通。
小女孩不知道该如何回答问题,见高大的机器人居高临下地审视自己,心中不由得有点害怕,讪讪地松开了手,又退开几步,和机器人拉开距离。M-Q3没有得到期望中的回答,但是被拉住手指显然也不会对自己造成伤害,于是向小女孩再次伸出手。
小女孩看着机器人的手稍作迟疑,立刻笑着凑上去,紧紧拉住,跟着机器人朝基站走去。
基站位于森林中央,是一棵低矮却十分粗壮的机械树,约有三四间房屋那么大,外围生长出笔直的枝干伸向天空。机器人带着小女孩,从树干处的门口进入,进了基站,小女孩才松开拉着机器人的手,好奇地左摸摸,右看看,熟悉着屋中的一切。
机器人没有理会她,径直走向中央的圆形操作台,连接操作台上的端口,同步云端数据,同时上传小女孩图像,在云端获取她的身份信息。
不过一眨眼的时间,M-Q3马上收到云端的反馈图像,图像中的小女孩看起来更小些,看来她已经走失很久,M-Q3不禁想到。继而传来的是处理结果:该财产所属机器人已拥有3个碳基生物,请将该物即刻销毁。
数据同步完毕,M-Q3断开连接,一低头就看到小女孩踮着脚,趴在操作台上目不转睛地盯着自己看。
“即刻销毁!”M-Q3又在系统中重新确认一次小女孩的处理结果。
“我饿了!”小女孩眼巴巴地看着机器人,说了句。
本来该执行销毁命令的M-Q3却走出门去,不一会就抱着一堆红色的果子回来,摆在小女孩面前。笑容又回到小女孩脸上,她蹲在地上大口地吃着果子。
“主芯片损坏影响了我的执行力。” M-Q3自我分析后得出答案,“或许,可以用其他方式处理这个人类。”他第一次做出违背机器人准则的决定,数据分析给出的结果是因主芯片受损所致。M-Q3仔细端详着小女孩,计算她未来的无数种可能,对机器人群体造成威胁的可能性几乎为零,于是他坚持了自己的决定。
旧纪元的分崩离析让多数适用于人类的生存的必需品销声匿迹,没有云端配发的饲料,M-Q3只好修改了粉碎机的工作路径,保留那几棵长满红色果实的树,它们在巨大机械树的衬托下显得尤为弱小,却身姿昂扬,摆出一副胜利者的姿态。
M-Q3尝试第1001次自我检测。
扫描结果:主芯片损坏,损坏率9%,扫描并试图修复坏扇区……
自动修复失败,请前往云端更新硬件设备。
“快看,看我找到了什么?”
一声饱含欢乐的叫声打断了M-Q3的自我检测程序,他循声看过去,小女孩高高举着一个小熊玩偶,兴高采烈地跑过来,献宝似的把玩偶举给他看。
M-Q3扫描并分析小熊玩偶的材质,看着小女孩掩饰不住的兴奋,十分不解:“物品里并未发现人类生存必需元素。”小女孩没听懂,还是蹦蹦跳跳地举着玩偶:“快看,快看!”跳了几下,她突然停住了,一脸认真地看着M-Q3问道:“这是什么呢?”
“物品外形:熊,材质……”还没等M-Q3说完,小女孩又高兴起来,似乎已经得到了自己满意的答案。
“小熊,小熊,我找到了小熊!”一边说着,一边朝轰隆隆的粉碎机跑去,大声向粉碎机介绍自己的新发现,她并不知道,粉碎机这种低端机器无法给她任何回应。
“对于人类这样脆弱的生物,粉碎机显然太危险了。”M-Q3低声说一句,想唤她回来时才发现自己根本不知该如何称呼她。只好走上前去,拎起小女孩的衣领,迫使她离开那轰隆隆的机械。
“你是否记得自己的编号。”M-Q3再次向女孩确认,他想知道女孩以前的饲主是如何称呼她的。
“7……”女孩歪着脑袋,认真地想了许久,却也只记得一个数字7,沉默半晌,忽然一脸坚定地说道:“小七,是小七。”
“小七。”M-Q3重复了一遍,算是默认了女孩这个称呼。
“那你呢?你叫什么?”小女孩问。
“M-Q3。”
“M-Q……M-Q3,是什么意思呢?”小女孩很好地继承了人类的好奇心,一个问题接着一个问题。
“是我的系统序列号。”M-Q3认真解释。
小七一本正经地点点头,可M-Q3却看出来,她其实并不理解。
而对于小七的处理方式,M-Q3心中也有了打算。在机械树森林的边缘,距离基站500公里的地方,有一间旧纪元展览馆,里面陈列展出了许多活跃在旧纪元的生物,而人类自然是其中的主要展品。将小七送入馆中,就可避免被销毁的命运。
就在M-Q3思考的时候,小七又一溜烟跑开了,在机械树间撒欢似的戏耍,凭借本能在杂生的树木间寻找能吃的东西。看着小七,M-Q3突然觉得论起生命力的顽强,人类绝不输这漫山遍野一茬又一茬、除也除不尽的树木。
M-Q3尝试第1002次自我检测。
扫描结果:主芯片损坏,损坏率12%,扫描并试图修复坏扇区……
自动修复失败,损坏率已超过临界值,请优先前往云端更新硬件设备。
M-Q3抱起睡得香甜的小七,起身离开基站,前往云端。按照优先级,应首先更新设备,可他却决定先去旧纪元展览馆,将小七安顿下来。怀中的小七呼吸平稳,似乎梦中遇到了什么危险,小声地哼哼几声。M-Q3的数据库中储存了梦的定义,可却无法解释梦境究竟是怎样的存在,他看着小七皱起的眉头,试图通过计算分析她梦中的场景,可终究无果,那是人类所独有的,人工智能永远无法企及的领域。
尽管M-Q3尽量放轻脚步,避免颠簸,可小七还是悠悠醒转,揉着惺忪的睡眼,看向周围林立的机械树。
“今天还要去砍树吗?”小七伸了个懒腰,爬上M-Q3的肩头,坐在他肩膀上,“轰轰和隆隆呢?”
“轰轰和隆隆?”M-Q3不解地追问了一句。
“对呀!就是每天轰轰隆隆叫个不停的两个机器人。”小七伸长脖子远眺,寻找那两台粉碎机的踪迹。
“我们正前往旧纪元展览馆,那里有很多你的同类。”
听到M-Q3的话,小七收回视线,看向机器人的脸,小声地试探道:“你也会留在那吗?”
M-Q3敏锐地捕捉到小七的语气里多了一丝别样的情绪,可数据分析并未得出结论,只好停下脚步,耐心向她解释:“我有自己的职责,旧纪元展览馆是由M-N3725来负责管理展品的。”
小七撇了撇嘴,没有再说什么,只是从M-Q3身上爬下来,退开几步,小心翼翼地跟在后面。走了几个小时的路,M-Q3才后知后觉地发现,小七一句话都没说过,回头一看,只见小七汗流浃背,正午的太阳照得她脸颊通红,嘴唇干裂,步伐也有些不稳,却仍一言不发,强撑着跟在后面。
M-Q3托起她小小的身躯,抱在怀中,小七依旧不说话,只是默默流泪。M-Q3知道流泪是人类一种名为伤心情绪的外在表达,但身为机器人的他无法设身处地地了解这种情绪的由来。
“人类是群居动物,和族群一起生活才符合人类习性。”M-Q3向小七解释人类的种群特征。
“那你呢?你也和族群一起生活吗?”小七体力有所恢复,开口问。
“人工智能是没有族群与个体之分的,我们共享数据信息,遵守共同的规则,纵然有独立的身体,却以一个整体而存在。”M-Q3回答小七的话,突然意识到自己此刻的行为决定,似乎脱离云端整体之外,是由个体自我做出的主观决定。
“我似乎低估了芯片坏损所造成的影响。”M-Q3自言自语,随即加快了行进速度,早日安置小七,才能更快修复芯片。
面前的景象突然加速,机械树巨大的树身飞速扑来,又消失在视线中,耳边 “呼呼~”的风声,将小七心中那丝不快卷走,她张开双臂,迎着风,像是要飞起来一样。
这样行进了许久,视野的尽头,最后一棵机械树迎面扑来,绕过树身的遮挡,一幢巨大的玻璃建筑赫然出现。建筑里是世界的缩影,囊括了山川、河流、原野、森林,巨大的玻璃墙分隔出不同区域。那些在外面世界鲜见的生物,都可以在这里得见。
而建筑里最大的一片区域,生活着这个世界曾经的主人——人类。不同肤色表明他们曾经生活在地球的不同大陆上,但是在这里他们毫无区别,身穿同样的灰色连体衣,吃着管理员定量投喂的饲料,在原野中露天而居。
来到建筑前,M-Q3放下小七。小七显然是第一次见到如此恢宏的建筑,惊讶得合不拢嘴,小脸紧紧贴在玻璃墙上,盯着一只卧在石头上的老虎看。
“走吧!”M-Q3拉着依依不舍的小七,走进建筑里。建筑内,一条甬道向深处延伸,似乎看不到尽头,小七骑在M-Q3肩头,伸长脖子左右观望,这里的一切在她眼里都是那么新奇有趣。
M-Q3走过一个转弯,一大片原野映入眼帘,一大一小两个人类男性靠在玻璃墙边闭目养神。
“哇!”小七被眼前的景象震撼,又见到自己的同类,心中莫名升起一股亲切感,急忙从M-Q3肩上爬下来,来到两人身后,轻轻地敲一下玻璃墙。
两人吓了一跳,触电似的跳起来回头观望,一眼就看到身后笑盈盈的小七,只看一眼立即被小七身旁高大的M-Q3吸引了注意力。两人有些害怕,警惕地盯着M-Q3,动也不敢动。
“我叫小七!”小七不知该如何跟人打招呼,只是一味兴奋地拍着玻璃墙,咧着嘴笑个不停。
和热情的小七比起来,墙内的两人要冷漠得多,连一丝视线都不肯分给小七,将全部的注意力都放在M-Q3身上。甬道上空,一个球形监视器飞来,扫描M-Q3身上的代码。
“请表明意图!”监视器中一道声音传来。
“M-Q3,67区管理员,发现野生人类,移送旧纪元展览馆回收处理。”M-Q3说。这显然是一个谎言,小七并非野生人类,可他仍然毫不犹豫地脱口而出。这是人工智能世界的第一个谎言,M-Q3显然没有意识到问题的严重性,他将自己一切反常行为都归结于芯片受损,以此为借口,所有逾越规则的决定都能心安理得。
检查室内,小七被各种仪器包围,检查她的健康状况是否符合入馆标准。M-Q3静静站在一旁,也在进行自检。
M-Q3尝试第1003次自我检测。
扫描结果:主芯片损坏,损坏率19%,扫描并试图修复坏扇区……
自动修复失败,损坏率已超过临界值,请优先前往云端更新硬件设备。
“各项指标均符合入馆要求。”检测仪器给出最终结论。它们给小七换上灰色的制服,将她脏兮兮的小脸和头发清理干净,最终把她送进原野中。小七有些胆怯,却没有反抗,任由各种仪器的操控。
将小七安置好,M-Q3却没有立刻离去,他站在玻璃墙外,看着小七孤零零地走在原野中,她的同类一个个神情呆滞,对她视而不见。
隔着玻璃墙,M-Q3不知观望了多久,他一遍遍回想起小七神采奕奕的眼神,回想起她迎着风张开的双臂,他在计算,需要多久小七也会面色如灰,眼神中只剩下一片虚无。系统提示修复的警报一次次响起,他忽然有些烦躁,关闭了系统提示。
转眼到了投喂饲料的时间,一排排仪器进入原野,向人类分发几根褐色的块状物,小七看着手中的不明物体,有些熟悉,似乎引起一些不好的回忆,眼泪啪嗒啪嗒地掉下来。
M-Q3不知自己是什么时候跟随投食机器进入原野的,似乎那段时间的数据莫名其妙地丢失了。再次反应过来时,自己已经站在小七身边,他手里攥着一个红色的果子,递到小七面前。
“我们走。”他说。
那一瞬间,亮晶晶的神采又回到小七的眼眸中,她手脚利落地爬上机器人的肩膀,在众人惊愕的目光中,飞一样冲出原野,跑过常常的甬道,冲向机械树组成的无边森林中。
展馆的防御系统顷刻启动,无数小型战斗机器人从四面八方包围过来。
“M-Q3,该人类系旧纪元展览馆所有,请于60秒内立即归还,否则将启动攻击模式,60、59、58……”
蜂群一般的机器人大军盘旋在半空,M-Q3却不为所动,背靠一株巨大的机械树,将小七挡在身后,随即启动了攻击模式。
60秒的倒计时转瞬即逝,激光和各种微型炸弹在M-Q3和机器人群之间穿梭,没有声势浩大的硝烟,轻微的爆炸声和机械破碎的声音不绝于耳。小七藏在M-Q3和机械树的空隙里,动也不敢动。
没过多久,周遭归于沉寂,小七小心地从缝隙中钻出来,地面的木屑层上小机器人的肢体七七八八地散落一地。
“哇!你好厉害!”小七由衷赞叹,一回头却见M-Q3半个头被轰掉,露出里面的机械结构,左肩处被炸出一个大洞,只剩几根细线拉扯着摇摇欲坠的左臂,身上也有许多破损的痕迹。
小七呆楞了一秒,突然大哭起来,手忙脚乱地扶着机器人的左臂,想帮他装回去,“M3,你不会死了吧!你不要死啊!”
M-Q3伸出右手,一把扯掉破损的左臂,随手丢在地上,“机体受损严重,但主芯片完好,我不会死。”
小七哭得一抽一抽的,仍不放心,小心翼翼地摸摸他身上的被炸开的机械碎片,“很疼吧!”
“机器人没有痛觉,不会疼,我们得赶紧离开这里,第二批攻击几分钟内就会到。”M-Q3一边说,一边单手托起小七,逃向森林深处。
穿过了机械树森林,面前是一片真正的森林,有着森林该有的绿色色调,树木是这里的主角。如此远的地方,M-Q3也是第一次到,来不及欣赏,一个飞身,没入郁郁葱葱的树丛中。
M-Q3尝试第1004次自我检测。
扫描结果:主芯片损坏,损坏率22%,扫描并试图修复坏扇区……
自动修复失败,损坏率已严重超过临界值,请马上前往云端更新硬件设备。
森林中央,M-Q3再次运行内检,小七没有被森林里的新奇景色吸引住,而是蹲在他身旁,一脸担忧地看着他。
“真的没事吗?真的不会死掉吗?”
“不会。”M-Q3说,可心里却不十分确定,芯片损坏速度如此快,自己正在以肉眼可见的速度走向死亡,他环顾四周,入目是无尽的树。以人类的生存能力,可以一个人在野外活下去吗?自己是否逃出了机器人搜寻范围呢?
M-Q3向小七伸出唯一的一只手,牵着她走向森林更深处。他一边走一边分析周围的环境,地形、有无危险动物,他在找一个合适的地方,让小七一个人也可以活下去的地方。
人类大脑有着将近77亿TB的储存空间,可储存方式和储存效率却十分落后。M-Q3不厌其烦地向小七一遍又一遍地灌输生存知识,诸如哪些植物有毒、寻找水源的方式、如何躲避机器人的搜捕……他想教的太多太多,可自己的时间却十分有限。
这样的逃亡生活持续了半个月,M-Q3的芯片损坏率已经达到了47%。
“丛生垂暮菇,无毒,可以食用。”M-Q3指着地上一团丛生的蘑菇说道。
“可是你昨天跟我说这种蘑菇有毒,不能吃。”小七有些疑惑地仰起头问。
M-Q3突然愣住了,芯片损坏已经造成了数据紊乱,他无法再教小七任何准确的生存知识了,“以我之前说的为准,你要照顾好自己。”
小七正胡乱地踩着地上的蘑菇,嘴里一边念叨着:“毒蘑菇、坏蘑菇……”却突然听见M-Q3如此说,心头突然升起一丝不好的预感:“你要去哪吗?”
“不去哪,我会保护你到最后。”M-Q3犹豫了一下,还是没有告诉小七实情。
两人继续赶路,向森林更深处前进,走着走着,M-Q3突然发现周围环境似乎有些异样,植被和地表形态显然有外界干预的迹象,他第一反应是自己的分析能力也终究没逃过芯片受损的影响。
突然,“嘭!”的一声巨响,一个巨大的火球从森林中疾射而出,准确地朝着M-Q3的方向射来。M-Q3迎着火球大跨步上前,一个转身,挡在小七面前,火球打在他背上,炸裂开无数火花。
火球仿佛是进攻的信号,一时间森林里枪炮声四起,无数子弹打在M-Q3残破的躯体上,他无力反抗,只好紧缩身体,避免小七受伤。
枪声渐息,M-Q3身体损坏得更严重了,几乎无法动弹。小七从他的怀中探出头,试着推一推他的脸。
“我还没死。”M-Q3下意识地回答。
森林中一震密集的脚步声,许多扛着长枪短炮的人类现身,无数枪口再次向M-Q3瞄准。
“等等!”小七钻出去,张开双臂,挡在M-Q3身前。
“不要杀他!他不是坏人!”小七喊得声嘶力竭。
人群中一个女人摘下面罩,示意其他人暂停攻击,“小姑娘,你过来。”
“不要!”小七意志很坚定。
女人叹了口气,“机器人是人类的敌人,如果我们不杀掉他,他就会杀掉我们所有人!”
“不!不是的!他不是敌人,他是……”小七突然想起展览馆里的那片原野,那里有一个小孩同样牵着一个男人的手,小孩喊他“爸爸!”
小七没有问过M-Q3“爸爸”是什么意思,但她记得小男孩紧紧牵住的手,包含了无尽的信任和依恋。
“爸爸!”小七大喊,“他是我爸爸!”
周围瞬间响起一片哄堂大笑,仿佛是听见了什么好笑的笑话。可女人却没有跟着一起笑,她看着跪倒在地、破败不堪的机器人,用唯一一只手,轻轻牵住小女孩的手。
“放下枪!”女人发出指令。
“大姐头,什么意思?”
“这可是机器人啊!”
周围一片抱怨之声,人们不理解这个决定。
“我们怎么能伤害一个小姑娘的爸爸呢?”女人看着小七,眼中是温柔的笑意。
M-Q3尝试第1101次自我检测。
扫描结果:主芯片损坏,损坏率50%,扫描并试图修复坏扇区……
自动修复失败,损坏率已严重超过临界值,请马上前往云端更新硬件设备。
M-Q3再次恢复意识,周围如此陌生,这是一个阴暗的房间,简易的木架子上摆满了书,小七靠在自己身边睡得正香。桌子上一本摊开的书引起了M-Q3 的注意,老旧的纸张上几行文字映入眼帘:
第一定律:机器人不得伤害人类个体,或目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
M-Q3突然恍然大悟,他回想起机器人准则中的“要尽可能保护自己的生存”,那不是什么划世纪的创造,只不过是一句自欺欺人的断章取义罢了。
“我们的祖先在创造你们时就想到会有今天这个下场。”女人自黑暗中走出,“只是没做任何的预防,任由你们踩到头上。”
“不要伤害小七。”M-Q3开口说。
女人轻轻一笑,“原来这小姑娘叫小七,我们不会伤害小七的,她是人类。至于你……”
“我不会对你们造成任何威胁,我的芯片严重受损,已经撑不了多久了。”
“我知道,我们已经帮你修复了,虽然做不到完好无损,至少不会再恶化下去。”女人走到M-Q3身旁,拿起那本书,M-Q3这才看到书的封面《我,机器人》作者阿西莫夫。
“为什么?”M-Q3不理解,他认为人类和机器人是站在对立面的。
女人拍了拍书本,“人类创造人工智能的初衷是美好的,但却带来了一场毁灭性的战争,在这场战争中,无数人死去,我们基地里的每个人都失去过亲人,所以,不想这世界上再多一个失去爸爸的小女孩。”
“爸爸!”M-Q3咂摸着这两个字,怀中熟睡的小七,仍紧紧握着自己手。
许多年后,在新一代人工智能的数据库中,这个场景是全纪元开始的标志。情感作为一项新的特性引入人工智能中,让他们成为人类最初设想的模样,一个人类与机器人平等相处的时代由此而生。