2018W2 译 | 当心网上的“过滤气泡”

译前言:和公司 产品小哥 聊起算法时,我说到我个人真的很讨厌算法,他说其实好的算法就是专业的编辑。

室友问我,以后网络世界是不是看到的都是我们喜欢看到的内容,我回答,准确来说,应该是算法认为的我们想看到的内容。

TED 上这个演讲讲的就是这个问题,看了好几遍,但是觉得讲者讲得很好,所以在已有翻译的情况下又翻译了一遍。

原视频链接:https://open.163.com/movie/2011/7/4/3/M7797SRIV_M779IPK43.html


一个记者曾经就即时消息向 Mark Zuckerberg 提问:“ 为什么即时新闻这么重要?”
Zuckerberg 回答:" 或许比起非洲大地上每时每刻死去都在死去的人,你对你家院子前一只死去的松鼠会更感兴趣。”

我想和大家探讨这种基于相关性概念的 Web 可能是什么样的。
我成长于缅因州一个乡村地区,互联网对我来说有特别的意义。网络意味着连接世界,这意味着它把我们全都联系在了一起。那时我很肯定,网络有助于民主和社会安全。
但是,网络信息的流动方式发生了改变,并且这种改变是隐形的。如果我们不对这一现象加以关注,这很有变成一个大问题。

我第一次发现这种情况,是在 Facebook 上,一个我经常花时间浏览的地方。我是一个改革派,意外吧?但是我经常会去看看保守派的网页,我喜欢听他们的想法,我喜欢看他们转发了什么链接,我喜欢从他们那里学习一些东西。

有一天,当我注意到这些保守派的信息都从我的 Facebook 动态信息流中消失了,这令我很意外。结果是,Facebook 会查看我点击的链接,似乎他们注意到,相比我的保守派朋友的链接我更愿意点击那些自由派朋友的链接。

在没有经我许可的情况下,他们把保守派信息从我的主页上删除了。它们消失了。Facebook 不是唯一一个这样的网络进行算法编辑的平台。

image.png

Google 也在这样做。如果我和你同时在 google 上搜索一个信息,我和你的搜索结果很可能是大相径庭的。一个工程师告诉我,即使你登出了 google 账号,Google 仍然有57种信号来观察你,从你使用的电脑型号到你用的浏览器再到你所在的位置,这些信息用于定制的你的个性化搜索结果。

花一秒钟来思考这件事:再也没有标准版 google 。如你所知的,最荒谬的一点那就是人们甚至都很难发现这一点。你不会看到你和其他人的搜索结果有多么地不同。

几周前,我拜托几个朋友在 Google 上查询 「埃及」,并把他们搜索结果截图发给我。

这是我的朋友 Scott 的屏幕截图,这是我朋友 Daniel 的截图。


image.png

当你把它们放在一起时,你甚至都不需要仔细阅读就可以发现这两个页面有多么不同。但是,当你读仔细读了链接之后,你会发现两者的区别有多大。

在 Daniel 的 google 搜索结果第一页,没有任何关于埃及抗击的相关内容,而 Scott 的页面上全都是这些内容。而抗议是当天埃及的重大新闻。搜索结果就是如此不同。因此不只是 Facebook 和 Google 是这样。这一现象正在席卷网络。很多公司都在做这种个性化。Yahoo 新闻,互联网上最大的新闻网站,正在做个性化,不同的人看到不同的内容。赫芬顿邮报、华盛顿邮报、纽约时报 -- 都在以不同的方式进行个性化。这使我们很快地走向了一个互联网向我们展示我们想看到的东西的世界,但不一定是我们需要看到的。

正如 Eric Schmidt 所说,"要人们观看或消费一些某种程度上并非为他们量身定制的内容是很难的。"

因此,我认为这是一个问题。我认为,如果你把这些过滤器放在一起,还有这些算法,你会得到一个我所谓的「过滤气泡」。

过滤气泡

你的过滤气泡是你个人的、独一无二的信息世界也就是你生活的网络世界。你的过滤气泡取决于你是谁,取决于你做的事情。但是问题是你无法决定什么信息可以进入过滤气泡。更重要的是,事实上你也看不到那些被剔除的信息。

Netflix 的研究者发现了过滤气泡的一个问题。他们观察 Netflix 的队列时,注意到一些有意思的事情,可能我们很多人也发现了,一些电影脱颖而出可以很快地到达你家的电视信号。他们一进入队列就脱颖而出。因此,钢铁侠脱颖而出,而超人就需要等待很久。

image.png

他们发现在我们的 Netflix 队列中,我们未来理想化的自我和当下更冲动的自我正在进行史诗般斗争。

你知道的,我们都想成为看过《罗生门》的人,但现在我们想第四次看神探飞机头。


image.png

因此,最好的编辑把两方面的信息都给我们,它会给我们一些 Justin Bieber 的信息,也会给我们一些阿富汗的信息。

image.png

它给我们提供信息蔬菜,同时也会提供一些信息甜点。不同种类的算法过滤器和个性化过滤器的挑战在于他们主要关注你最先点击的内容,因此他们无法达到那种信息平衡。不是提供平衡的信息食谱,相反的,你最终只会被垃圾信息所包围。这表明,我们的在讲一个网络欺骗的故事。

在广播社会,最初的虚构故事是这样产生的,有一些审核员、编辑,他们控制信息流动。随着互联网的到来,它取代了之前所有的信息流通方式,它把我们连接起来,这很奇妙。但是,事实上,现在情况已经发生了变化。我们看到越来越多人工审核员把信息过滤的火炬传递给了计算机算法。但是,这些计算机算法并不具备编辑的那种职业道德。所以,如果算法将为我们创造一个世界,由算法来决定我们能看到什么信息,不能看到什么信息,我们需要确定它们不仅仅是参考相关性而已。

image.png

我们需要确保他们也会向我们展示一些不适的、挑战性的、重要的信息 -- 这也是 TED 在做的事情,不同的观点相互碰撞。实际上,作为社会,我们以前经历过这些情况。1915年,报纸并没有报道很多关于社会责任的新闻。人们注意到,报纸正在做的事很重要。事实上,如果公民没有良好的信息流通,你就不可能有有效的民主,因此报纸很关键,因为他们扮演着过滤器的功能,随后新闻职业道德应运而生。这不完美的解决办法,但是它带我们走过了上个世纪。

因此,现在,我们在网络上好像又回到了1915年。我们需要新的审核员将这些职业道德写进他们的算法中。我知道现场来了很多 Facebook 和 Google 的朋友 -- Larry 和 Sergey --这些人帮我们创建了网络,我很感激这一切。但是我们需要你们确保那些算法中包含了公民生活和公民责任感。我们需要确保算法是足够透明的,我们能够看到决定了我们的过滤气泡的算法规则是怎么样的。我们需要得到一些控制权让我们能够决定什么内容可以通过过滤器,什么内容不可以。
因为我认为,我们确实需要一个我们梦寐以求的互联网。我们需要把我们连接在一起。我们需要它来介绍新的想法,新的朋友,和不同的观点。假如它把我们孤立在个性化的网络中,它就不可能实现这些。


image.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,732评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,496评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,264评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,807评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,806评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,675评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,029评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,683评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 41,704评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,666评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,773评论 1 332
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,413评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,016评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,978评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,204评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,083评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,503评论 2 343