也许很快,游戏行业在未成年人保护上就能做到它所能做的一切

星星已经成百上千次地答复过“能否不让孩子玩游戏”的问题,电话那头的家长却总是第一次听说。“我们建议您通过您的微信号关注我们……比如说您每天只允许他玩30分钟或者玩15分钟,您都可以自行设置。或者您不想让孩子进行游戏,也可以通过一键禁玩功能,直接把这个游戏给封停掉,这都可以通过我们成长守护平台的功能进行实现。”

新的发现让家长们有些惊讶,他们中的一部分本来是开门见山地问“你们这个游戏能不能停掉”的,没有想到真的可以——不是让整个游戏关掉,而是能够让孩子玩不了,算起来也差不多。在知道这一点后,有些家长稍作犹豫,又问了星星一个问题。

“你们能不能不让孩子知道是我让你们去绑定这个平台的,不让孩子知道是我找你们去限制的?”

星星解释说,如果孩子绑定平台,关注到守护平台的公众号以后,他还是会有一些方式可能会了解到是家长干的。比如,在平台上,绑定家长的QQ或微信昵称与头像都会显示出来,所以还是要与孩子先积极沟通。


“有没有其他办法,管理以后不要告诉他们?”家长继续问。

再几经解释,家长似懂非懂,最后补充叮嘱说:“孩子来问你们的话,不要告诉他是我申请的。”

星星每天都与父母和孩子打交道,这是他的工作,在成长守护平台担任守护小助手的3年里,他每天都要接听80通以上的电话,如果忙的话,100通以上也时常有。他接的这么多电话,几乎6成是孩子打来的,4成则来自孩子的父母。星星与同事们两班倒,从早上9点到晚上22点,不是在通话中就是在等待通话中。

在3年累积的几万通电话里,他感觉至少有五分之一的家长问星星:能不能别让孩子知道是我不让他玩游戏的?

可从来没有一个孩子来问过星星:“是不是我爸(妈)不让我玩游戏的?”

成长守护平台的守护小助手们正在工作

不被认可的守护者们

就像是正在扶摔倒的老太太,老太太却跳起来就把他讹了一样,叶金同时感觉到了错愕、委屈,心中不太好受:自己明明是在做好事,怎么就被骂了呢?

但其实那些孩子也不是在骂他——他们都不知道叶金是谁。

叶金是一名程序员,在腾讯负责未成年人保护系统的开发,用他自己的话来说,做的是“小学生们咬牙切齿的防沉迷系统”。从一个游戏,到腾讯运营的所有移动游戏,再到其他公司的一些小游戏,他们团队逐步完善系统,将统一的未成年人保护系统接入到具体的游戏中。时至今日,这个系统已经经历了3个大版本,整体包含事前(成长守护平台,可以由家长管理孩子能否玩游戏、玩多久游戏)、事中(健康系统,在游戏中,按照国家法律与家长的设定限制孩子的游玩时长与充值状况)、事后(少年灯塔主动服务工程,提供咨询、消费主动提醒、退款等客户服务)三大体系。

对家长来说,最常用到的是成长守护平台

和绝大多数程序员一样,叶金很忙,“一般功能开发”的时候,他到晚上九十点“就可以回去了”,到了重要版本上线前,下班时间可能会拖延到凌晨三四点。尽管“发量已经不太多”,叶金仍然相信,论起头发来,相比同行的游戏开发人员,自己“还好”。更重要的是,叶金认为,自己的工作是“在做一个有意义的事”,做的时候“挺开心的”。

或许正是出于这个缘故,他在被骂的时候更不痛快。叶金第一次对此深有感触是在2018年,当时,《王者荣耀》上线了自然人共享计时的新系统,即,如果一个孩子用同一个身份证注册了多个帐号,针对未成年人的游戏时长限制将把这些帐号的游戏时间累计起来计算。上这个功能时,“小学生们就感受到了,他们的敏感度是很高的,一下子就感受到自己的游戏时间变少了”。功能上线后,一个同事给叶金发来了一张微博截图,图里许多人怒斥这次更新,许多话不太好听。

同样的事情发生在每一次的重大更新中,腾讯的未成年人保护系统经历了3个大版本,分阶段地逐步完成了建立体系、强化所有用户实名认证和接入防沉迷新规、扩大人脸识别来甄别疑似未成年人等工作。一次次地重演后,叶金也想开了——有人骂说明自己的工作有成效——于是他有时也会把不好听的评论截图下来,发给其他人看。

未成年人保护系统的许多工作人员也有类似的经历。小影是成长守护平台公众号的运营,在她的印象中,2018年初,无论发什么文章,四面涌来的都是抨击和宣泄情绪的声音,她有些不理解,自己“明明是在做好事”,可“无论是家长和孩子都在骂”。

这样的情况一直持续到2019年,评论的风向开始好转,“没有原因乱喷的变少了”,现在是“玩梗的比较多”,也有了“说明问题的”和“询问功能的”。但是情况有反复,在扩大人脸识别范围之后,成长守护平台的留言与反馈中又收到过不少“登门拜访警告”与“一起爬山警告”的调侃。

小影向我们展示了一些她收到留言,她说,有一次在推送了一篇孩子玩游戏的文章后,后台收到了1000多条评论留言,其中差不多500条都在讲述各自的家庭故事

找到真正的孩子

这些情绪对负责开发的叶金影响不算大,工作中最困难的部分还是技术上的问题,即如何“找到真实的小孩用户”,这个问题由来已久。“现在的小孩很聪明,我们的系统上线了,告诉这个小孩需要填写他的实名信息。但小孩知道这样填写会被限制(游戏时长和充值)之后,他就不这样干了。他会找他爸爸、妈妈,或者找一个成年人的身份证去绕过我们的系统。”

问题或许比叶金所说的更为严重。如今,人们对信息安全的重视不足,或者有意识也难以防范,有许多隐私信息在网上流传甚至是贩卖。腾讯互娱用户平台部总经理郑磊,也是腾讯未成年人保护体系的负责人,他告诉触乐,的确有一部分泄露的实名信息进入了游戏领域,其中一个应用就是绕开未成年人的游戏限制。“之前,或多或少会有一些所谓动手能力比较强的孩子,他能在网上搜到或者买到另外一些陌生成年人的身份信息。这个情况客观上存在,我们一直在打击。”

相比单纯的冒用,欺诈现象对未成年人的危害要更大一些。郑磊介绍说:“(许多诈骗团伙)在外面宣称,可以帮孩子解开腾讯的未成年人限制,要先打钱,先给他付费,他就帮你解。一旦你打完钱之后,他就没有下文了,因为其实他也解不了。”

身份信息买卖的灰色产业链,再加上想要钻空子的诈骗团队,这些都是未成年人保护系统的挑战者。郑磊表示:“我们跟公司的整个安全团队长期在做一些这样的打击,也打掉了很多这样的灰产团队。”

在关于未成年人保护系统3.0的相关讨论下,绝大多数人都不支持对未成年人采用人脸识别,许多孩子表示,现在做一名“未成年人”也很不容易

对于个案的打击不足以解决根本问题,这件事情的根本是,只要孩子能够搞到一套成年人的身份证,他就能伪装成成年人。叶金的工作就是为了解决这个问题,他所在团队的工作成果最终转化为腾讯游戏在今年6月17日推出的未成年人保护系统3.0。这一版本在原来对实名未成年“限玩、限充、宵禁”的基础上,专门针对“孩子冒用家长身份信息绕过监管”的问题,扩大人脸识别技术应用范围,对疑似未成年人的用户进行甄别。目前登录环节人脸已覆盖了腾讯游戏旗下的几乎全部手游,充值环节人脸也覆盖了诸如《王者荣耀》《和平精英》等头部几十款游戏,接下来将陆续覆盖到腾讯运营的全部手游产品。

至于疑似未成年人帐号,是通过专门的数据分析来锁定范围的,比如用AI机器学习等技术手段,针对用户游戏内行为特征进行判定,包括用户所属年龄段、游戏时间及其他游戏内行为都一起纳入,作为身份判定的参考标准。“甚至我们会通过屏幕压感等指标来帮助判定”,郑磊说。

新的系统很快就显示了它的效用。根据昨天(7月30日)腾讯副总裁王波在中国国际数字娱乐产业大会上的演讲,近一个星期以来,平均每天有541万个帐号在登录环节、1.3万个帐号在支付环节触发了人脸识别验证。在这其中,因为拒绝或未通过验证,登录环节有89.05%的用户被纳入防沉迷监管,支付环节有82.62%的用户被拦截了充值行为。

未成年人问题,成年人问题

对星星来说,3.0的系统升级意味着新的咨询。

星星的语速不快,开口之前总会有细微的停顿,每次回答完一个问题后,不待我发问,往往会立刻用另一种表达方式,将同样的意思再解释一遍。这可能是他的职业习惯,与一心想玩游戏的小孩子们,以及与迫切想让孩子别玩游戏的家长们打交道,就必须得很有耐心,为了防止对方没听懂,同样的道理可能需要讲两三遍。

星星始终面对着不同的诉求。会打电话找他的孩子有两种,一种是想要把身份信息改成成年人的,他们会用稚嫩的声音说“我二十多岁啦”;另一种是被家长通过成长守护平台限制了游玩时间的,他们打电话来冒充自己的父亲或母亲,时常答不上来“自己”出生那年的生肖。家长们的情况则更加多种多样,不想让孩子玩游戏的,不想让孩子知道自己不想让孩子玩游戏的,刚刚在家里和孩子有过肢体冲突的,或者只是一无所知,前来了解情况的。

在升级未成年人保护3.0后,许多电话打过来,问“能不能不要弹出人脸识别”,提问的大多是孩子——即便有成年人,也因为验证通过而无需多打一通电话。在这个时候,工作似乎又是在重复过去的内容,还是那些自称是大人的孩子,拐着弯想要多玩一会儿游戏。

也有的孩子早有准备,他们假装是自己的父母,答对了关于出生年月、年龄、生肖等所有问题。但他们却答不上星星的最后一个问题:您是要解绑对吧?成长守护平台里面本来就可以解绑呀,为什么不直接解绑,而要打电话来要求我解绑呢?

星星总是会给出建议,这是他的工作。对孩子,他会像所有烦人的大人一样地说,不要过于沉迷游戏,还是要以学业为重,多培养一些兴趣爱好。可小朋友听说不能多玩游戏,还是很不开心。对家长,他会说,你们可以多陪陪孩子呀,然后提出一些缓和亲子关系的小建议,比如要注意倾听,不要让孩子对你有太多疏离感……但家长比较感兴趣的常常是成长守护平台可以直接限制孩子玩游戏、能玩多久游戏,这也是最咨询中最常见的核心问题。

有的时候,星星说什么已经变得不太重要,更重要的是倾听。有些家长打电话过来,讲述起孩子怎样和他们起了冲突,甚至打了自己。这样的电话,一般是母亲打过来,一边哭一边说,有时哭声中还夹杂着“派出所”与“民警”之类的信息。在这样的案例中,你甚至无法找到“游戏”到底在哪里,星星仍会一如既往地给出建议。有时候,他也不确信自己的建议有没有用,对于一些极为严重的情形,他对父母的建议之一便是,让他们去寻求更专业人士(如心理咨询和危机干预专业人士)的建议。

情况总是有好有坏。用郑磊的话来说,未成年人保护需要的是“疏堵结合”。他坦诚地说,其实游戏公司所能做的未成年人保护系统,“堵”还是主体。让家长了解孩子的游戏情况、决定孩子能不能玩游戏、能玩多久游戏,这就是堵。“疏”说起来容易,实际上情况非常复杂,而且我们只有在堵的基础上,才可能去更多地寻求“疏”。

游戏公司还能做什么?

游戏行业是个讲究趣味的行业。我们做过不少这个领域内的采访,绝大多数从业者强调的都是“有趣”“酷”:我们这个游戏很棒、我们的机制很棒……游戏本身,这本来就是从业者们关注的事情。

也因此,你很少有机会——像采访一群未成年人保护的相关从业者这样——听到几乎每一个受访者都几乎毫无例外地相信自己是在做好事。这个“好”不只是一个价值判断,更是一个伦理判断。

然而,有时候你很难想象一家游戏公司还能再做什么。

在海外,绝大多数网站的未成年人保护措施仅仅是一份形同虚设的“我已年满18岁”的承诺。我国在这方面的发展则要迅速得多,从最初的“健康游戏忠告”,到后来的实名认证,再到游戏公司纷纷上线的未成年人保护系统、更为严格的游戏内验证、大公司们一齐开通的未成年人专线,最后,为了防止假冒身份,连“疑似未成年用户”的人脸识别也随之而生,并飞快地显现出它的成效。

我们还能够再做什么呢?要求所有玩家在进行游戏时必须始终开启摄像头,一刻不停地证明你是你吗?事实上,目前的人脸识别技术就已经有许多关于侵犯隐私的争论,而将这项技术大量应用在电子游戏中,更是绝无仅有的孤例。很难想象,在这样的基础之上,事情还能够更进一步——保护未成年人是做得周全了,可留给成年人的空间呢?假定我们承认游戏公司最重要的任务还是做游戏,那我们就必须得承认,它能做的事情原本就十分有限。

人脸识别技术在不断完善,但它也伴随着一定的争议

我问每一名受访者,你完成了自己的工作职责,这样未成年人的问题就能解决吗?提供限制手段,就能够达到让青少年健康游戏的目标吗?而每一个人都承认,自己能做的事情是有限的,只是能够让事情“更好一些”而已。

面对着一系列“什么是有意义”的追问,叶金对于这种“有限”的阐释是这样的:“我能做的,是用技术手段去实现我们能做的,但是像一些教育、社会的东西,可能我没有办法用代码把它很好地展示出来。”

“永远都不会是商业项目”

郑磊表示,对腾讯来说,未成年人保护相关的业务非常特殊。它不像一般的项目那样从立项开始就考虑回报,而是只要有合理的需求、合适的计划,就能够直接获得充足的资源去推动实现。2019年,腾讯在未成年人保护方面的花费已经过亿,目前也仍然在持续投入中。由于未成年人保护系统3.0需要进行大量的人脸识别(除了本身人力、技术的成本,这也意味着直接向第三方数据源平台支付验证相关费用),这一投入还会有明显的增长。

一个较为普遍的说法是,如果我们能够对游戏加以恰当的限制,让任何人都没有理由说“是游戏害了未成年人”,那么整个行业都将获得更好的舆论环境。从这个意义上来讲,保护未成年人,实际上也是在“保护”成年人。

不过,对于腾讯在未成年人保护方面的投入与领先,我们一直有更深的疑虑——这是否会成为另一种形式的独占优势?要知道,在如今的游戏行业,大厂的优势实在是过于明显;小厂甚至是独立游戏制作方,在竞争中往往处于绝对的劣势。在未来,如果未成年人保护的相关要求进一步升级,这无疑是提升了行业的准入门槛,增加了开发成本。在这时,腾讯的未成年人保护相关技术将成为整个行业的刚需(尤其是对中小型开发者而言),这时,它还会是一个“不考虑回报”的项目吗?

针对这一问题,郑磊给出了明确的回应:未成年人保护项目在腾讯内部不是一个商业项目,也没有任何将它商业化的打算。

我问他:“总之,腾讯所有关于未成年人保护的相关内容都不是商业项目,并且在可以预见的未来,它都不是,是这样吗?”

“对。”郑磊很快回答道,稍微停顿了一下,他补充说,“我觉得应该说‘永远都不会是商业项目’吧。”

作为佐证,2020年5月18日,游戏引擎Unity宣布联手腾讯游戏共同推出防沉迷系统开发工具,该工具将由腾讯成长守护平台提供技术后台支持。这一面向所有开发者的工具体现了腾讯将未成年人保护系统推向第三方企业的决心。郑磊表示,后面可能还会有类似的动作。

如果腾讯能够履行这一承诺,对中小开发者来说无疑是一大利好。以目前的形势来说,无论是从游戏过审还是国内平台上架等多方面因素考虑,未成年人保护模块都是不可缺少的,一个标准、成熟、免费的接口能助益良多。郑磊强调说:“我们团队的使命是希望能够解决问题,能够影响这个行业,快速把它转变到一个比较绿色健康的状态,因为我们觉得游戏行业在中国还要发展50年、100年,很久很久。早点让它进到健康的状态才是好事情,而不是眼前怎么样。”

从目前的情况来看,腾讯的未成年人保护系统已经展示出了更深的、非商业性的潜质。一方面,它将可能对更多企业开放,进而可能成为供行业标准参考的一部分。另一方面,它的影响可能不局限于游戏之中。目前,腾讯的视频与部分非游戏业务已经接入到成长守护平台的健康系统中;同时,这一系统也提供了许多与游戏无关的教育、亲子关系指导等内容。这一切都暗示了它可能的进一步发展,或许未来未成年人的网络生活都会与此相关。

转载于:http://nbcjzx.com/

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,482评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,377评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,762评论 0 342
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,273评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,289评论 5 373
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,046评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,351评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,988评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,476评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,948评论 2 324
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,064评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,712评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,261评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,264评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,486评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,511评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,802评论 2 345