上周六我在看某款乐队综艺正在燥起来的时候,朋友圈被ZAO刷屏了,不少小伙伴都在朋友圈秀自己的角色扮演体验。
可能是我老了,竟然对其无动于衷。
到了周日,ZAO再次在朋友圈刷屏。时隔一天,竟然风向完全变化,都是声讨其霸道的用户条款,不尊重隐私。这引起了我强烈的兴趣,果断下载试玩了一波。
而在今天,传出了ZAO在周二被工信部约谈,并做出道歉的消息。在压倒性的指责中,我却觉得ZAO做了一件很了不起的事情,所以我想写点什么了。
之所以最开始对这种换头应用不感兴趣,是因为这种玩法,实际上早就已经不酷了。
早在17年deepfakes将换头代码开源之后,我就试图折腾,奈何水平不允许,一周时间没有搭成功,后续也就没有下文了。但我没弄成功完全不代表什么,公开的资料表明17年的网络色情业又多了新东西,其发展盛况堪比16年的VR。
18年之后,deepapp和deepwap的出现,则让如我这种稍稍有点折腾精神的人,也可以玩起来了。
记得我在deepwap调试环境成功的第二天,对机友老王表达了我没有换头素材的忧伤。而老王为了反击我这种秀优越的行为,在第二天顶着黑眼圈告诉我,他也把环境搭好了。
我们决定互换对方的狗头。
熬过断断续续一周左右的训练,我成功让他出演李狗嗨第二集的法庭论辩的上窜下跳,我自信长达2分钟的精彩合成视频即将承包基友群下个月的笑点。
然而事实是我和孙越的相声承包了基友群一个月的笑点,我在那一个月都没有将自己从五环之歌的幻听中解放出来。
我没有办法指责他让我演绎小岳岳,只能说我给你安排了新垣结衣女神,你就给我安排了个200多斤一脸嫌弃的胖子很不厚道。
毕竟他刚换了2080TI显卡,钞能力上的优势不光在小孩学习上很明显,在机器学习上也很明显,硬刚肯定是刚不过的。
我举上面这个例子并不是为了说明我比较适合说相声,而是为了让大家明白,专业的换脸应用其实已经早就存在了,而且一直在优化和迭代,以至目前像我这样爱折腾的普通程序员通过一份教程就可以使用。
这种应用从视频中提取数百张人脸素材,经过长时间的训练所得的换脸效果,可以轻易骗过大部分人的肉眼。目前披露的专业的检测算法,也只能保证97%左右的检测正确率。
与之相比,ZAO用一张照片快速渲染得到的合成效果,真的只能用来娱乐而已。根据我自己的体验,如果照片和原视频中人物脸型不一致,基本可以一眼看出不是本人:比如将我的照片和刘德华的电影片段融合,隔壁小朋友一眼就看出不是我本人;即使脸型大体一致,表情一般也非常僵硬:比如将我的照片和周润发的电影片段融合,虽然比较像我本人,但是视频中的我表情肃穆,脸上的皮肤基本不会颤动,而且从不眨眼。
相比于其他deepfake系列应用对任意图片进行换脸,ZAO显然已经非常克制,用户需要对照片进行人脸识别认证之后,才能将该人脸制作的合成视频进行分享。换句话说通过ZAO是没办法把别人的脸进行换脸然后发布出来的。如果你自己非要把合成视频发朋友圈甚至发抖音,就不能怪别人泄露自己的隐私了对吧。
ZAO的产品经理能兼顾服务器性能和法律风险,竭尽全力为大家做一个小玩具,真不容易。
然而墨菲定律有趣的地方就是,它说明了如果你害怕墨菲定律,墨菲定律就一定会出现。
ZAO被指出的问题,恰恰是从平时大家最不认为(对中国用户)存在风险的用户协议中冒出来的。今天在ZAO修改用户协议后,那一段被广泛征讨的条款已经没有了,但我们仍可以找到当时的截图:
这段协议条款引起极度不适的原因是,大家认为自己上传的照片,以及合成的视频,都属于“上传及/或发布的用户内容",认为如果这部分的使用权由ZAO支配,则个人隐私受到了极大侵犯。由于是热点,这一观点经过大肆渲染,通过频繁洗稿,引发了热搜以及大量账户注销。
然而作为一个逻辑缜密的人,我是不能接受这种理解的,因为我无法把能做出这样一个APP的产品经理想象成一个法盲或者傻子。首先根据文字字面意思,合成视频其实并不属于用户“上传或发布”的内容,那么真正属于用户“上传”的就只有自己的照片(当然掌握了照片使用权就等同于掌握了合成视频)。
而如果这项条款是针对用户上传的照片,那么不仅和另外一份隐私协议矛盾,也和括号中说的将上传的视频进行换脸换音修改的描述矛盾,同时还不符合基本法律条款——根据《个人信息保护法》这条协议铁定是无效的。
我考察了几个其他视频类APP,发现都有类似条款。因此推断这种协议条款中的“上传/发布”应该是并不包含用户自己的账号信息、头像等内容,因为这些内容在隐私协议中另有条款。比如以下截图是抖音用户协议中相关条款:
我试图找出ZAO提供的这个条款的出发点,而出发点的关键就在于这里的“上传及/或发布”所针对的内容。其实它已经在括号中告诉我们了,稍微动一下脑筋关联一下,“上传及/或发布”的东西,就是视频模板。如果是这样的话,这个条款的目的,很可能是为了转嫁视频模板的版权侵权风险。
让我以ZAO产品经理的视角,来描述一下我理解的ZAO的用户模型:
1、一部分用户上传/发布视频模板。
2、每个用户上传自己的照片。
3、用户可以用模板和照片来合成视频。
4、如果照片确认是用户自己的,则允许合成视频被分享。
被大多数人忽视的第一步,是极为重要的一步。而第一步中的“用户”,就需要同意6.1这个条款,如果没有第一步“用户”对上传内容的授权,那么第3步和第4步的过程就没有合法性保证。
同时,如果“用户上传/发布的“视频模板版权不属于该用户自己,而被真正的版权方认为侵权而追责,那么ZAO作为一个平台,可以将责任转嫁给该“用户”。而如果“用户”能证明是非商业目使用视频,而且人数众多,难以定位,那么在侵权的责任和赔偿认定时就会出现一个很模糊的状态。而这种理想的状态对ZAO来说是可能可以接受的。
如果不使用这样起码能把自己骗过去的转嫁方式,在视觉中国风波过去没多久的情况下,我想ZAO的投资方是万万不敢在ZAO中嵌入几百个无版权视频的。
现在版权问题是真的令人害怕啊,就像我虽然只有两位数的阅读,都天天做噩梦梦见任天堂给我发律师函。
写到这里我实际上已经把我想写的都写完了。但是鉴于前两篇文章有朋友说读起来比较吃力,让我认清我的表达能力其实是有问题的现实,所以我认为我有必要对自己的观点做一下总结:
首先,ZAO并无收集并利用用户隐私的意图,其旧版的用户协议是为了暗挫挫转嫁版权侵权风险,而不是为了明目张胆侵犯隐私;其次,ZAO所生成的合成视频并不具有足够的欺骗性和危害性,起码与专业的换脸软件相比是如此。
将以上两个观点作为基础,得出第三个观点:批评ZAO侵犯隐私,引发公共安全是不合适的。ZAO的问题是侵犯视频版权。引发公共安全的是专业的换脸软件以及对该类型算法的非法应用,而ZAO不应该被划归此列。
不管之后的ZAO何去何从,ZAO所引发的舆论风暴和国家部门的关注,让我觉得ZAO已经做成了一件好事,尽管这从来不是它本来的目的。它像极了一剂疫苗:
它和有害病毒有着同样的基因片段,本身无毒,却唤醒了身体的免疫机制。