浪过留痕,ZAO过留声

上周六我在看某款乐队综艺正在燥起来的时候,朋友圈被ZAO刷屏了,不少小伙伴都在朋友圈秀自己的角色扮演体验。

可能是我老了,竟然对其无动于衷。

到了周日,ZAO再次在朋友圈刷屏。时隔一天,竟然风向完全变化,都是声讨其霸道的用户条款,不尊重隐私。这引起了我强烈的兴趣,果断下载试玩了一波。

而在今天,传出了ZAO在周二被工信部约谈,并做出道歉的消息。在压倒性的指责中,我却觉得ZAO做了一件很了不起的事情,所以我想写点什么了。


之所以最开始对这种换头应用不感兴趣,是因为这种玩法,实际上早就已经不酷了。

早在17年deepfakes将换头代码开源之后,我就试图折腾,奈何水平不允许,一周时间没有搭成功,后续也就没有下文了。但我没弄成功完全不代表什么,公开的资料表明17年的网络色情业又多了新东西,其发展盛况堪比16年的VR。

18年之后,deepapp和deepwap的出现,则让如我这种稍稍有点折腾精神的人,也可以玩起来了。

记得我在deepwap调试环境成功的第二天,对机友老王表达了我没有换头素材的忧伤。而老王为了反击我这种秀优越的行为,在第二天顶着黑眼圈告诉我,他也把环境搭好了。

我们决定互换对方的狗头。

熬过断断续续一周左右的训练,我成功让他出演李狗嗨第二集的法庭论辩的上窜下跳,我自信长达2分钟的精彩合成视频即将承包基友群下个月的笑点。

然而事实是我和孙越的相声承包了基友群一个月的笑点,我在那一个月都没有将自己从五环之歌的幻听中解放出来。

我没有办法指责他让我演绎小岳岳,只能说我给你安排了新垣结衣女神,你就给我安排了个200多斤一脸嫌弃的胖子很不厚道。

毕竟他刚换了2080TI显卡,钞能力上的优势不光在小孩学习上很明显,在机器学习上也很明显,硬刚肯定是刚不过的。


我举上面这个例子并不是为了说明我比较适合说相声,而是为了让大家明白,专业的换脸应用其实已经早就存在了,而且一直在优化和迭代,以至目前像我这样爱折腾的普通程序员通过一份教程就可以使用。

这种应用从视频中提取数百张人脸素材,经过长时间的训练所得的换脸效果,可以轻易骗过大部分人的肉眼。目前披露的专业的检测算法,也只能保证97%左右的检测正确率。

与之相比,ZAO用一张照片快速渲染得到的合成效果,真的只能用来娱乐而已。根据我自己的体验,如果照片和原视频中人物脸型不一致,基本可以一眼看出不是本人:比如将我的照片和刘德华的电影片段融合,隔壁小朋友一眼就看出不是我本人;即使脸型大体一致,表情一般也非常僵硬:比如将我的照片和周润发的电影片段融合,虽然比较像我本人,但是视频中的我表情肃穆,脸上的皮肤基本不会颤动,而且从不眨眼。

相比于其他deepfake系列应用对任意图片进行换脸,ZAO显然已经非常克制,用户需要对照片进行人脸识别认证之后,才能将该人脸制作的合成视频进行分享。换句话说通过ZAO是没办法把别人的脸进行换脸然后发布出来的。如果你自己非要把合成视频发朋友圈甚至发抖音,就不能怪别人泄露自己的隐私了对吧。

ZAO的产品经理能兼顾服务器性能和法律风险,竭尽全力为大家做一个小玩具,真不容易。


然而墨菲定律有趣的地方就是,它说明了如果你害怕墨菲定律,墨菲定律就一定会出现。

ZAO被指出的问题,恰恰是从平时大家最不认为(对中国用户)存在风险的用户协议中冒出来的。今天在ZAO修改用户协议后,那一段被广泛征讨的条款已经没有了,但我们仍可以找到当时的截图:

ZAO的用户协议片段

这段协议条款引起极度不适的原因是,大家认为自己上传的照片,以及合成的视频,都属于“上传及/或发布的用户内容",认为如果这部分的使用权由ZAO支配,则个人隐私受到了极大侵犯。由于是热点,这一观点经过大肆渲染,通过频繁洗稿,引发了热搜以及大量账户注销。

然而作为一个逻辑缜密的人,我是不能接受这种理解的,因为我无法把能做出这样一个APP的产品经理想象成一个法盲或者傻子。首先根据文字字面意思,合成视频其实并不属于用户“上传或发布”的内容,那么真正属于用户“上传”的就只有自己的照片(当然掌握了照片使用权就等同于掌握了合成视频)。

而如果这项条款是针对用户上传的照片,那么不仅和另外一份隐私协议矛盾,也和括号中说的将上传的视频进行换脸换音修改的描述矛盾,同时还不符合基本法律条款——根据《个人信息保护法》这条协议铁定是无效的。

我考察了几个其他视频类APP,发现都有类似条款。因此推断这种协议条款中的“上传/发布”应该是并不包含用户自己的账号信息、头像等内容,因为这些内容在隐私协议中另有条款。比如以下截图是抖音用户协议中相关条款:

抖音用户协议相关条款

我试图找出ZAO提供的这个条款的出发点,而出发点的关键就在于这里的“上传及/或发布”所针对的内容。其实它已经在括号中告诉我们了,稍微动一下脑筋关联一下,“上传及/或发布”的东西,就是视频模板。如果是这样的话,这个条款的目的,很可能是为了转嫁视频模板的版权侵权风险。


让我以ZAO产品经理的视角,来描述一下我理解的ZAO的用户模型:

1、一部分用户上传/发布视频模板。

2、每个用户上传自己的照片。

3、用户可以用模板和照片来合成视频。

4、如果照片确认是用户自己的,则允许合成视频被分享。

被大多数人忽视的第一步,是极为重要的一步。而第一步中的“用户”,就需要同意6.1这个条款,如果没有第一步“用户”对上传内容的授权,那么第3步和第4步的过程就没有合法性保证。

同时,如果“用户上传/发布的“视频模板版权不属于该用户自己,而被真正的版权方认为侵权而追责,那么ZAO作为一个平台,可以将责任转嫁给该“用户”。而如果“用户”能证明是非商业目使用视频,而且人数众多,难以定位,那么在侵权的责任和赔偿认定时就会出现一个很模糊的状态。而这种理想的状态对ZAO来说是可能可以接受的。

如果不使用这样起码能把自己骗过去的转嫁方式,在视觉中国风波过去没多久的情况下,我想ZAO的投资方是万万不敢在ZAO中嵌入几百个无版权视频的。

现在版权问题是真的令人害怕啊,就像我虽然只有两位数的阅读,都天天做噩梦梦见任天堂给我发律师函。


写到这里我实际上已经把我想写的都写完了。但是鉴于前两篇文章有朋友说读起来比较吃力,让我认清我的表达能力其实是有问题的现实,所以我认为我有必要对自己的观点做一下总结:

首先,ZAO并无收集并利用用户隐私的意图,其旧版的用户协议是为了暗挫挫转嫁版权侵权风险,而不是为了明目张胆侵犯隐私;其次,ZAO所生成的合成视频并不具有足够的欺骗性和危害性,起码与专业的换脸软件相比是如此。

将以上两个观点作为基础,得出第三个观点:批评ZAO侵犯隐私,引发公共安全是不合适的。ZAO的问题是侵犯视频版权。引发公共安全的是专业的换脸软件以及对该类型算法的非法应用,而ZAO不应该被划归此列。

不管之后的ZAO何去何从,ZAO所引发的舆论风暴和国家部门的关注,让我觉得ZAO已经做成了一件好事,尽管这从来不是它本来的目的。它像极了一剂疫苗:

它和有害病毒有着同样的基因片段,本身无毒,却唤醒了身体的免疫机制。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,386评论 6 479
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,939评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,851评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,953评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,971评论 5 369
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,784评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,126评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,765评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,148评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,744评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,858评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,479评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,080评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,053评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,278评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,245评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,590评论 2 343

推荐阅读更多精彩内容

  • 尚俊平,焦点网络中级,坚持分享544天,2017年9月24日周日 反省死亡是为了在内心深处做一份真正的改变,并开始...
    32598db751bb阅读 148评论 0 0
  • 是一部科幻片,我们对科学的探索永无止境,虽说是科幻,也有一定的现实夙愿在里面,与《克隆人》,饱受人们的非议,这是无...
    国栋爱读书阅读 246评论 0 0
  • 春暖花开的季节,天气暖暖的真适合出游啊! 今晚做的炸鸡叉,炸鸡胸肉,炖排骨,都是肉肉啊,吃足了肉瘾...