2019-04-24 BigGAN的前世今生

        最近刚学到说思考问题的逻辑可以按照5why,5so的思路,就是往前推几步,看看产生的原因是啥,往后推几步,看看带来的影响是什么。正好在研究BigGAN,利用这个思考逻辑来探寻一下BigGAN的前世今生。

        BigGAN是近一年来计算机视觉领域比较重大的突破之一。

        2018年9月,谷歌旗下DeepMind部门的一组研究人员在ICLR(the international conference on learning representations,国际学习表征会议,被誉为深度学习领域的顶级会议)上发表了一篇论文,带来史上最强图像生成模型BigGAN。这个名为BigGAN的图像生成引擎,利用谷歌强大的云计算能力,可生成十分逼真的图像。在计算机图像研究史上,BigGAN带来的突破是划时代的,比如在ImageNet上进行128×128分辨率的训练后,它的IS( Inception Score,数值越高,表明生成图片的质量越高,并且越具有多样性)得分能达到166.3,是之前最佳得分52.52分3倍。

        如果往前推几步,探究一下BigGAN的产生原因就可以追溯到机器学习,有监督的机器学习中的分类问题,求解问题的算法可以分为生成模型判别模型两种类型。

        生成模型p(x,y)代表联合概率分布, 判别模型p(x|y)代表条件概率分布。


        在此引述一个例子帮助更快速的理解生成模型和判别模型。

        任务是识别一个语音属于哪种语言。例如对面一个人走过来,和你说了一句话,你需要识别出她说的到底是汉语、英语还是法语等。那么你可以有两种方法达到这个目的:

        1、学习每一种语言,你花了大量精力把汉语、英语和法语等都学会了,我指的学会是你知道什么样的语音对应什么样的语言。然后再有人过来对你哄,你就可以知道他说的是什么语音。这就是生成模型。

        2、不去学习每一种语言,你只学习这些语言模型之间的差别,然后再分类。意思是指我学会了汉语和英语等语言的发音是有差别的,我学会这种差别就好了。这就是判别模型。


        尽管生成模型才是最能体现事物全面信息的模型,但是由于生成模型存在很多比较难解决的数学难题,一直都是判别模型在引领潮流,生成模型起的作用比较小。

        直到GAN(Generative Adversarial Networks,生成式对抗网络 )的提出,在很大程度上提升了生成模型的性能。截止目前GAN的应用已经延伸至视频、图像、文字、语音等众多领域,尤其在图像生成与图像转换领域表现突出。


GAN论文引言截取

        尽管最近在生成图像建模方面取得了进展,但是从像ImageNet这样的复杂数据集中成功生成高分辨率,多样化的样本仍然是一个难以实现的目标。


LargeScale GAN Training For High Fidelity Natural Image Synthesis

        BigGAN的出现就是为了实现这个目标,在ImageNet上进行128×128分辨率的训练后,它的IS( Inception Score,数值越高,表明生成图片的质量越高,并且越具有多样性)得分能达到166.3。

        这大概是BIGGAN的一个产生过程。

        再往后推几步,看看BIGGAN能够带来什么。

        BIGGAN可以用于生成非常逼真的图像,因此我直接想到的就是丰富数据集,提供更多的训练数据,从而提升识别性能。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,189评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,577评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,857评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,703评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,705评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,620评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,995评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,656评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,898评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,639评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,720评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,395评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,982评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,953评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,195评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,907评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,472评论 2 342

推荐阅读更多精彩内容