CV Dazzle,从人类胜利到精神麻醉剂。

CV Dazzle,探寻怎样用时尚来逃避人脸检测技术。

这个在 2013 年左右引起 New York Times,DIS 杂志追捧的“人类对战计算机视觉的胜利”,放在 3 年过后的今天看更像是精神麻醉剂。

人类应该怎样在计算机视觉下隐藏?更悲观地说,人类能够在计算机视觉下隐藏吗?

CV Dazzle 是什么

CV Dazzle 是 Adam Harvey 上纽约大学交互电信通讯课程的硕士论文题目,主要通过化妆、发型或者其他修饰,形成面部的迷彩效果,并由此产生对人脸探测技术的干扰。

CV Dazzle 的效果

第一段视频,比较化妆前后用人脸检测算法检测的效果。左边化妆前使用滑动窗根据黑白块儿(特征)来检测当前区域有没有人脸,如果认为有,用绿色细框标记,如果某区域有重叠的框,就认为这个区域有人脸。

视频一

第二段视频,上传了一堆化妆过后的照片到 facebook 相册里面,结果 facebook 没有检测出人脸。

视频二

CV Dazzle 为什么会起作用呢?

要回答这个问题先要粗略了解一下视频里面用来检测人脸的技术是什么。

在谷歌学术里面搜索 face detection,出来的第一篇文章是 2004 年 Paul Viola, et al. 发表在 IJCV(计算机视觉领域顶级期刊之一)上的 Robust Real-Time Face Detection。被引用次数达到了惊人的 9782 次。

(下面这两段说明这个技术怎样起作用的,不关心技术的读者可以直接跳过 :) 。)

这个方法是怎么起作用的呢?粗浅地来说,做了如下几步:首先,训练一个分类器,专门区分所给的图片是不是人脸上的器官(比如眼睛、鼻子、嘴唇),这个分类器的输入是一堆可能的“特征”和训练数据,输出是最有区分能力的几个特征。这里面的“特征”具体指的是什么呢?想象一下给一张图片,人类自己怎么确定这张图片里面有没有人脸?我们可能是根据鼻子、眼睛、嘴巴这些部件来确定的吧?“特征”这里就是这些部件的数学表示,也就是视频里面那些黑白块儿。把黑块中所有像素的和加起来得到一个值,白块儿中的所有像素值加起来得到另外一个值,这两个值相减,就是这个特征。


这张图说明的是最具有区分能力的两个特征,第一个特征评估的是人眼部分和脸颊上部分像素值的差异。在一张照片中,眼睛部分经常是暗的,因为凹陷,而脸颊上部骨头凸出,经常是亮的。第二个特征是基于两个眼睛中间的鼻梁一般都比眼窝亮。(注意虽然人为这样给出解释,但是这是事后的解释,换句话说,分类器告诉我们这两个特征非常具有区分力,但是到底是不是因为上面那些解释而被认为具有区分力,谁也不能打包票。)

(技术解释到此为止。如有错欢迎在评论区指出。)

CV Dazzle 为什么会起作用呢?因为这个方法检测人脸是依靠一些特征的,而 CV Dazzle 针对性地通过化妆改变了这些特征。

具体怎么做的来看图说话。


这是放在 Adam Harvey 项目主页上的一张图。上下两组图片的对比可以看出来,针对检测技术里面提出的两个最有区分能力的特征,都通过化妆掩盖掉了:颊骨贴了贴纸,让第一个特征不能倍满足;头发本来是偏向一遍的,化妆后变成垂直落下的盖住两个眼睛之间的鼻梁,让第二个特征不能被满足。

更有趣的是,请看上面那张图的左下方:左脸颊贴了贴纸,右脸颊没有贴贴纸,还是被检测出来了人脸。为什么呢?因为这个贴纸上白下黑,脸颊部分还是亮的,依然满足第一个特征。由此推测,如果我左脸颊不贴贴纸,右脸颊贴贴纸(上黑下白),这个时候应该就不能被检测出来了吧?我试了下,发现确实如此

图1:左脸颊贴贴纸,能被检测出来,因为贴纸上白下黑,仍旧是满足“脸颊应该比眼窝亮”特征的。


图2:右脸颊贴贴纸,不能被检测出来,因为贴纸上黑下白,破坏了“脸颊应该比眼窝亮”这个特征。

CV Dazzle 现在还有用吗?

重点来了:这个方法提出的时候是 2004 年,距离今天已经 12 年过去了。像 CV Dazzle 这样化妆还有用吗?

答案是肯定的:没用。

上面涉及的方法中,虽然用了机器学习(Adaboost 选取最有用的那些特征),然而在检测过程中,做的仅仅相当于是拿着现成的模子去套,算了一下加减法而已(为了实时性的需要,并且依次提出了“积分图”,这是后话)。在整个检测过程中并没有用到现在流行的那一套深度学习。

所以我在网上搜比较新的人脸检测的实现,搜出来一堆 face++、skybiometry 之类公司的在线 demo。测试之后,skybiometry 的结果如下:


感兴趣的读者可以自己试试看:skybiometry face detect

更残酷的是,CV Dazzle 项目的先行条件是存在问题的:“针对的是人脸检测——人脸识别的预处理部分”。

如果铁心用计算机视觉去测试一张图片里面到底有没有人脸,得到的结果可能让你大吃一惊。下图是我用 CloudSight 检测图片的结果(注意,CloudSight 还不是专门识别人脸的哟,专门识别人脸的深度学习网络可能更加强劲)。


看了这个识别结果:“女性的黑与白的脸艺术”。你觉得像 CV Dazzle 这样的化妆还有用吗?你可以自己尝试一下:Cloud Sight Object Recognition

该怎么办

这样的结果不免让人觉得恐慌。
人类应该怎样在计算机视觉下隐藏?更悲观地说,人类能够在计算机视觉下隐藏吗?

我觉得不能。

要知道做了 CV Dazzle 项目的 Adam Harvey,其实自认为是艺术家而非科学家。这可能是导致 CV Dazzle 现在不能起作用的原因。我们转向看科学家:科学家有证明现在 CV(Computer Vision 计算机视觉)这一套东西是不如人类的吗?
这里就要提到科学家的两个派别。一类是认为人工智能迟早超过人类;另一类是认为人工智能只是工具,总有地方不如人。

第一类科学家,刚刚收获了一次胜利:AlphaGO 击败李世石。
第二类科学家,在 2015 年 CVPR 上发表了一篇论文:Deep neural networks are easily fooled: High confidence predictions for unrecognizable images,通过让神经网络反传改变白噪声图的方式获得被网络高置信度判定为某类别的噪声图。换句话说,他们能够获得非常多的像下面这样的噪声图片,虽然在人类看来毫无意义,但是对人工智能(神经网络)来说,它们显然是某种物体。


乍一听:人工智能好蠢啊,这样的噪声图居然都认为是物体。但是仔细想一想:噪声在 20 世纪以前被认为是不可能拿来做音乐的,而现在噪音摇滚已经被越来越多的人接受。所以,神经网络是不是真的看到了我们人类看不到的一些东西?这些东西是不是物体的核心真理?每次从这个角度想,我都会觉得脊背发凉。

我们再回到开篇的那个问题:人类能够在计算机视觉下隐藏吗?

我觉得虽然不能,但是,导致隐私泄露的并不是“计算机视觉”,而是“社交网络”。仔细想想现在的人工智能能做到的范畴,仅仅针对某个特定任务经过大量数据的训练,能够对一定的输入给出一定的输出而已。这种弱智能在当下是不会威胁到人的,更不用说人的隐私了。真正暴露我们隐私的其实是社交网络。如果真有那么一天,人工智能能够发展到强智能,“隐私”这个话题我们也是不会去讨论的,因为,那个时候的核心话题,是“人类生存”。

作者署名:Hongyang Wang
遵守 Creative Commons BY-NC-ND 3.0的情况下自由转载

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,607评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,047评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,496评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,405评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,400评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,479评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,883评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,535评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,743评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,544评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,612评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,309评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,881评论 3 306
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,891评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,136评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,783评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,316评论 2 342

推荐阅读更多精彩内容