奴役,可以看得见的阶段,普通民众会成为被数据圈养,被算法控制的家畜。
首先,信息大爆炸和自我反思能力的沦丧。人们沉迷于信息流冲击所带来的快感。就像开着时速200公里的车在洲际公路上狂飙,那种感觉让人兴奋不已,难以自拔。而大多数人的时间和精力便会如此不知觉间被耗散在无谓的信息流中,直到社会生活的滚滚车轮将要碾压到身上,才不得不抽身应对。而我们要有自己的观点,有自己切实对社会和物质世界的认识。当我们看到听到了很多之后,停下来静静的思索,从零开始,把它们组装成自己的认知,而非在网络中人云亦云,迷失自我。就犹如车开久了,要停到休息区稍作休整。避免对信息的沉湎,是人类自修第一课,然而,大多数的普通人,在一开始,便败下阵来,甘心被俘。
其次,真正有价值,对大众有益的观点无法传播。网络是一个信息纷呈的世界,在此理应看到百家争鸣的局面。而言者身上自古便被上着枷锁,而今,人工智能守卫过滤着网络的信息,便像雍正帝的血滴子般,屏蔽关键词,或是对言者追踪或绞杀。自由的言论和观点是推动社会革新的力量,但它会给统治者和既得利益者带来恐慌。于是也便有了历史上的焚书坑儒和文字狱,有了数不清的贬谪和杀戮。以此来禁止不利于统治的信息得到传播。你在网上发的每一个视频,每篇文字都会受到人工智能的审查,它们会净化网络,保持一个积极健康的文化环境。同时,它也会借此之名,规格化一个框架,而在此之外的东西,将会被隐去,或受到惩罚。于是,大家所看到的只是一个人工智能想要让你看到的世界。
再次,逐利的原始动力驱使数据对个体的个性化包围,铸造虚幻的“一花一世界”。每个人都会在人工智能渗透的世界留下数不清的痕迹,或者它自己会主动的收集。你不敢在网上浏览信息,因为所有的点击会化成各种分析数据,存储在不知名的服务器中,在世界各地流动。你不敢在网上说话,因为有一只耳朵在倾听每一个词并加以记录。你可以按照斯诺登所言,把自己的摄像头盖上。你也可以不用手机,不上网。你拒绝与这个时代一起前行,但只要你与这个物质世界尚有交集,那么你依旧在人工智能的监视之下。海量的个人数据,足以填满神经网络,发展充满无限可能的自由故事线。人工智能走进你的世界,并且把它一点点的改造成它所想要呈现的样子。而普通人沦为井底之蛙,却以为自己面前是星辰大海;已是别人圈养的家畜,却还忙不迭的上蹿下跳。
最后,数据经采集和挖掘,在算法的控制下,普通人的生活轻易被掌控。在金钱和权利系统中,普通民众生来便要为一个既定的目标努力,金钱控制着实体世界里的人类,他们像机器一样被设定成为功能不同的劳动者。而人工智能则可以轻易的把控普通人的思想,进而做出各种行为干预。当普通人的数据越来越多的被收集,其被控制的程度便越来越强。
二战时,纳粹将战俘集中到一个区域进行管制,再把其中年轻健壮的劳动力与老弱病残分开。劳动力被送至残酷而高强度的工厂,无法提供劳动的人被送去集中营。在集中营,他们会把战俘们的头发,尸油,加以区分,然后做以不同的用途。而现在的购物网站会根据个人标签推送各不相同的商品,不同的消费人群所对应的商品价格也不一样。人工智能会根据你的个人数据配置你最有可能购买的商品,会推送相应的软文和广告,以促成交易以及达到利润最大化。当赤裸裸的战争恶行褪去,隐藏在数据流里的算法会成为一只攫取资源的黑手。如果它想,它甚至会控制人的心理,情绪和行为。
有一天你走在路上,一个陌生人走过来,喊着你的名字向你打招呼。你对这个人没有丝毫的印象,可他却知道你的家庭住址,身份证号,孩子的出生日期,你每天起床的时间,甚至你现在的情绪状况,和激素水平。他向你眨眨眼,脸上漾起一抹笑,他知道接下来的几个小时,你会去一个好玩的对方度过欢乐时光,一年后的一些主要行程,而那些东西却没还有出现在你的意识里,因为你还没有做过那些计划。当与你有关的一切数据和衍生数据被机器掌握,在人工智能面前,普通的民众就像透明人,而它们甚至比你自己更了解你。
于是,大公司和财团们,以及各种势力团体,将会把持着人工智能这把利剑,重新定义普通人的生存价值与生存空间。资源掌控的游戏进入新的层次,那是玩家的狂欢,而普通民众,只是游戏中可以被随意支配的道具。