2018-10-16 深度神经网络的入门学习之旅

好久没有更新。最近又学到不少知识,记录一下。8月份,试用了 end-to-end 的 DCNN 来学习人类驾驶。但最终的比赛中,仍是 rule-based 结合 深度神经网络效果是最快的。

CNN

为了识别路牌,学习了CNN。使用这个网络可以很好的对图片进行分类。

1. 数据的准备

2. 训练和验证

3. 性能测量

4. 用于目标检测


Faster R-CNN

这个是为了目标检测。从知道这个技术到跑通,只用了大约两天的时间。身后有狗,就是跑的快。

跑通这个网络的主要要解决的问题是:如何使用自己的数据,建立 Fster R-CNN模型。网上有不少人写出来自己的过程,我写出我的过程。

1. 找到合适的开源代码

https://github.com/dBeker/Faster-RCNN-TensorFlow-Python3.5

需要在Windows下运行,并使用的是TensorFlow。支持这个要求的只有这个项目。

2. 建立环境

这个开源项目必须要使用Python 3.5.0。手工安装后,在安装相关的 pip 包时,遇到问题。一个包没有合适的源。所以,转而使用 Anaconda。

Anaconda 最新的版本里,建立 Python 3.5 环境时,安装的已经是 Python 3.5.X,而不是 3.5.0。 所以又向前找 Anaconda 的旧的版本。它的 2.4.0 和 2.5.0 里安装的是 Python 3.5.0。

3. 明确需要准备哪些数据

为了降低工作量,也就是说,不要修改代码,我们最好顺从项目本身对数据规格的要求。包括,文件名,XML文件的格式,目录结构等。对于 Faster R-CNN来说,有两套数据集,也就对应了两套数据格式: MS Coco 和 VOC2007。

这个项目支持的是后者。那我们就按后者要求的数据格式来。

Faster R-CNN,需要下面的数据:

预训练的 VGG16模型 或是 Res101,或是基它的特征抽取模式。(这个项目支持的是 VGG16)

训练用的图片

每个图片对应的区域标注数据(以文件形式。VOC2007是XML文件,还有一种是TXT)

4. 准备数据的过程

预训练模型在开源项目Faster-RCNN-TensorFlow-Python3.5的网页上有下载地址,可以直接下载。5xxMB

训练用的图片就需要自己收集 或是 采集。大约180张左右。

标注数据,可以使用这个开源软件 labelImg 来制作。软件会为每个图片单独生成一个xml文件。

图片数据按上面的目录结构安放。

Annotations 放 XML 文件。

ImageSets 放 索引文件(文本),指明那些文件是用于训练,那些是用来评估。

JPEGImages目录下放 jpg文件。文件名最好是000001.jpg ~ 999999.jpg。

另外一个注意点是,数据的完全绝对路径中不要用中文。

上图中有一个 gen_main.py 程序,这个是用来生成 ImageSets 中的索引文件的。这些索引文件格式很简单,就是一个纯文本的列表文件。



文件内容就是一行一行的文件名(不带扩展名)。训练程序根据这些文件的指引,加载图片。

5. 训练和验证

在开始前,注意要修改代码中的 class 数量。比如,我这里只有一个类,就需要把代码中的设置为1。

执行 项目 Faster-RCNN-TensorFlow-Python3.5-master 中的 train.py 就可以开始训练了。

执行项目中的 demo.py 就是验证。

生成的模型会在下面的目录中:    


6. 解决性能问题

在 Faster-RCNN-TensorFlow-Python3.5-master\lib\config 里的 config.py 文件中,是有很多参数可以修改的。通常我们不需要修改。

为了性能的需求,我修改了下面的几个参数:

rpn_top_n  ,这个是 用来评估的 proposals 的数量。越大,就意味着越多的计算。设置小了,可能会不准确。

最初,这个值是300,分析一个图片,需要1.9秒。把这个参数设置为1,需要0.9秒。但仍不满足要求。


DQN 与 Deepmind

以上两个,都是为了图像识别。这个则是为了解决打牌的问题。让AI自己学习如何打红心,并自行训练,提高自己的战力。类似与 Alphamaster,就是 AlphaGo的升级版,可以自我对战,学习,提高。

目前比赛中,水平最高的,已知其使用的是MCTS算法。算是轻度AI了。我使用DQN写的,战力很弱,也许需要训练1亿轮才行?目前一天只能练150万轮。当然,这是我的猜测。


总结

以上,都是知其然,而不知其所以然,不过,DL 或者说 深度神经网络 最终一定是演变成 engine or SDK。软件工程师只需要使用它们就好。可以解决问题就OK。

参考

https://www.corelan.be/index.php/2011/07/14/mona-py-the-manual/


optiva-framework  -  scan tools



https://blog.csdn.net/hongxingabc/article/details/79039537

https://blog.csdn.net/gvfdbdf/article/details/52214008

https://blog.csdn.net/sinat_30071459/article/details/50723212

https://blog.csdn.net/j497205974/article/details/80074494

https://blog.csdn.net/weixin_40920228/article/details/79561524

https://cloud.tencent.com/developer/article/1010754

http://blog.leanote.com/post/braveapple/%E5%A6%82%E4%BD%95%E4%BD%BF%E7%94%A8%E8%87%AA%E5%B7%B1%E6%95%B0%E6%8D%AE%E9%9B%86%E8%AE%AD%E7%BB%83Faster-RCNN%E6%A8%A1%E5%9E%8B

https://www.jiqizhixin.com/articles/2018-02-23-3

https://zhuanlan.zhihu.com/p/31772360

https://blog.csdn.net/weixin_31200719/article/details/81220924

https://medium.com/@jonathan_hui/object-detection-speed-and-accuracy-comparison-faster-r-cnn-r-fcn-ssd-and-yolo-5425656ae359

https://zhuanlan.zhihu.com/p/32230004

https://zhuanlan.zhihu.com/p/32404424

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,214评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,307评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,543评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,221评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,224评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,007评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,313评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,956评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,441评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,925评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,018评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,685评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,234评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,240评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,464评论 1 261
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,467评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,762评论 2 345

推荐阅读更多精彩内容