译前言:和公司 产品小哥 聊起算法时,我说到我个人真的很讨厌算法,他说其实好的算法就是专业的编辑。
室友问我,以后网络世界是不是看到的都是我们喜欢看到的内容,我回答,准确来说,应该是算法认为的我们想看到的内容。
TED 上这个演讲讲的就是这个问题,看了好几遍,但是觉得讲者讲得很好,所以在已有翻译的情况下又翻译了一遍。
原视频链接:https://open.163.com/movie/2011/7/4/3/M7797SRIV_M779IPK43.html
一个记者曾经就即时消息向 Mark Zuckerberg 提问:“ 为什么即时新闻这么重要?”
Zuckerberg 回答:" 或许比起非洲大地上每时每刻死去都在死去的人,你对你家院子前一只死去的松鼠会更感兴趣。”
我想和大家探讨这种基于相关性概念的 Web 可能是什么样的。
我成长于缅因州一个乡村地区,互联网对我来说有特别的意义。网络意味着连接世界,这意味着它把我们全都联系在了一起。那时我很肯定,网络有助于民主和社会安全。
但是,网络信息的流动方式发生了改变,并且这种改变是隐形的。如果我们不对这一现象加以关注,这很有变成一个大问题。
我第一次发现这种情况,是在 Facebook 上,一个我经常花时间浏览的地方。我是一个改革派,意外吧?但是我经常会去看看保守派的网页,我喜欢听他们的想法,我喜欢看他们转发了什么链接,我喜欢从他们那里学习一些东西。
有一天,当我注意到这些保守派的信息都从我的 Facebook 动态信息流中消失了,这令我很意外。结果是,Facebook 会查看我点击的链接,似乎他们注意到,相比我的保守派朋友的链接我更愿意点击那些自由派朋友的链接。
在没有经我许可的情况下,他们把保守派信息从我的主页上删除了。它们消失了。Facebook 不是唯一一个这样的网络进行算法编辑的平台。
Google 也在这样做。如果我和你同时在 google 上搜索一个信息,我和你的搜索结果很可能是大相径庭的。一个工程师告诉我,即使你登出了 google 账号,Google 仍然有57种信号来观察你,从你使用的电脑型号到你用的浏览器再到你所在的位置,这些信息用于定制的你的个性化搜索结果。
花一秒钟来思考这件事:再也没有标准版 google 。如你所知的,最荒谬的一点那就是人们甚至都很难发现这一点。你不会看到你和其他人的搜索结果有多么地不同。
几周前,我拜托几个朋友在 Google 上查询 「埃及」,并把他们搜索结果截图发给我。
这是我的朋友 Scott 的屏幕截图,这是我朋友 Daniel 的截图。
当你把它们放在一起时,你甚至都不需要仔细阅读就可以发现这两个页面有多么不同。但是,当你读仔细读了链接之后,你会发现两者的区别有多大。
在 Daniel 的 google 搜索结果第一页,没有任何关于埃及抗击的相关内容,而 Scott 的页面上全都是这些内容。而抗议是当天埃及的重大新闻。搜索结果就是如此不同。因此不只是 Facebook 和 Google 是这样。这一现象正在席卷网络。很多公司都在做这种个性化。Yahoo 新闻,互联网上最大的新闻网站,正在做个性化,不同的人看到不同的内容。赫芬顿邮报、华盛顿邮报、纽约时报 -- 都在以不同的方式进行个性化。这使我们很快地走向了一个互联网向我们展示我们想看到的东西的世界,但不一定是我们需要看到的。
正如 Eric Schmidt 所说,"要人们观看或消费一些某种程度上并非为他们量身定制的内容是很难的。"
因此,我认为这是一个问题。我认为,如果你把这些过滤器放在一起,还有这些算法,你会得到一个我所谓的「过滤气泡」。
你的过滤气泡是你个人的、独一无二的信息世界也就是你生活的网络世界。你的过滤气泡取决于你是谁,取决于你做的事情。但是问题是你无法决定什么信息可以进入过滤气泡。更重要的是,事实上你也看不到那些被剔除的信息。
Netflix 的研究者发现了过滤气泡的一个问题。他们观察 Netflix 的队列时,注意到一些有意思的事情,可能我们很多人也发现了,一些电影脱颖而出可以很快地到达你家的电视信号。他们一进入队列就脱颖而出。因此,钢铁侠脱颖而出,而超人就需要等待很久。
他们发现在我们的 Netflix 队列中,我们未来理想化的自我和当下更冲动的自我正在进行史诗般斗争。
你知道的,我们都想成为看过《罗生门》的人,但现在我们想第四次看神探飞机头。
因此,最好的编辑把两方面的信息都给我们,它会给我们一些 Justin Bieber 的信息,也会给我们一些阿富汗的信息。
它给我们提供信息蔬菜,同时也会提供一些信息甜点。不同种类的算法过滤器和个性化过滤器的挑战在于他们主要关注你最先点击的内容,因此他们无法达到那种信息平衡。不是提供平衡的信息食谱,相反的,你最终只会被垃圾信息所包围。这表明,我们的在讲一个网络欺骗的故事。
在广播社会,最初的虚构故事是这样产生的,有一些审核员、编辑,他们控制信息流动。随着互联网的到来,它取代了之前所有的信息流通方式,它把我们连接起来,这很奇妙。但是,事实上,现在情况已经发生了变化。我们看到越来越多人工审核员把信息过滤的火炬传递给了计算机算法。但是,这些计算机算法并不具备编辑的那种职业道德。所以,如果算法将为我们创造一个世界,由算法来决定我们能看到什么信息,不能看到什么信息,我们需要确定它们不仅仅是参考相关性而已。
我们需要确保他们也会向我们展示一些不适的、挑战性的、重要的信息 -- 这也是 TED 在做的事情,不同的观点相互碰撞。实际上,作为社会,我们以前经历过这些情况。1915年,报纸并没有报道很多关于社会责任的新闻。人们注意到,报纸正在做的事很重要。事实上,如果公民没有良好的信息流通,你就不可能有有效的民主,因此报纸很关键,因为他们扮演着过滤器的功能,随后新闻职业道德应运而生。这不完美的解决办法,但是它带我们走过了上个世纪。
因此,现在,我们在网络上好像又回到了1915年。我们需要新的审核员将这些职业道德写进他们的算法中。我知道现场来了很多 Facebook 和 Google 的朋友 -- Larry 和 Sergey --这些人帮我们创建了网络,我很感激这一切。但是我们需要你们确保那些算法中包含了公民生活和公民责任感。我们需要确保算法是足够透明的,我们能够看到决定了我们的过滤气泡的算法规则是怎么样的。我们需要得到一些控制权让我们能够决定什么内容可以通过过滤器,什么内容不可以。
因为我认为,我们确实需要一个我们梦寐以求的互联网。我们需要把我们连接在一起。我们需要它来介绍新的想法,新的朋友,和不同的观点。假如它把我们孤立在个性化的网络中,它就不可能实现这些。