从Keras开始掌握深度学习-2 准备你的数据集

前言

2013年的时候,Kaggle发布了这样的一个挑战(https://www.kaggle.com/c/dogs-vs-cats):

In this competition, you'll write an algorithm to classify whether images contain either a dog or a cat. This is easy for humans, dogs, and cats. Your computer will find it a bit more difficult.


Dog or Cat?

这个挑战提供了一个狗与猫的图像标注过后的数据集,不限算法,实现对含有狗与猫的图像进行分类。在学习了这么久的神经网络之后,此时第一个在脑海中浮现出来的想法肯定是使用卷积神经网络,毕竟卷积神经网络对对图像分类的任务来说是具有极大的优势的。
那么在这一篇文章中,我们将重点放在如何准备并处理这个数据集,以便Keras使用。

下载与处理数据集

Kaggle的Dogs and Cats的数据集可以从Microsoft的网站上进行下载,下载地址如下:
https://www.microsoft.com/en-us/download/details.aspx?id=54765
数据集大小:787MB
每个分类的样本有12,500个,这个样本数量对于训练一个神经网络应该是足够的。
加载和处理数据集首先需要从系统读取图片,这就需要使用到我们的os模块,os模块主要用来遍历目录和结合路径;同时处理图像数据则需要使用OpenCV(图像操作)和Numpy(数组操作)的包;最后使用Pyplot来进行图像的绘制。

import numpy as np
import os
import cv2
import matplotlib.pyplot as plt

由于OpenCV并非Anaconda集成的,因此需要单独安装。可以通过pip install opencv-python来安装OpenCV或通过pip install opencv-contrib-python来安装带额外功能的OpenCV版本。
在程序的最前面,我们需要指定数据集的路径与包含的类别:

data_path = "D:/dev/pythonwork/dataset/kagglecatsanddogs_3367a/PetImages/"
categories = ["Dog", "Cat"]

由于不同的卷积网络的输入基本上是固定的,而数据集中的图像大小是不一样的,因此我们需要统一所有图片的大小。统一图片的大小则需要用到Opencv的cv2.resize函数。
首先,让我们通过cv2.imread来读取所有的图片,而后使用cv2.resize修改图片大小。

# 定义图像为50*50的大小
img_size = 50

train_data = []

def create_train_data():
    for category in categories:
        path = os.path.join(data_path, category)
        class_num = categories.index(category)
        for img in os.listdir(path):
            try:
                img_array = cv2.imread(os.path.join(path, img), cv2.IMREAD_GRAYSCALE)
                new_array = cv2.resize(img_array, (img_size, img_size))
                train_data.append([new_array, class_num])
            except Exception as e:
                pass

create_train_data()

上述代码先是定义了一个空的列表作为我们的训练集。对于这个机器学习程序来说,我们的目的是让其可以将狗与猫进行分类。因此,训练集应该有特征与标签,标签就是用来区分狗与猫的标签。由于我们前面定义的类别是一个字符串列表,因此这里需要将其转换为0或1的数字。
而且便是读取图像与处理图像。由于数据集中有一些图像坏了,从而会引起一些异常,所以这里采用try来将图像处理的语句包裹起来,如若遇到异常则跳过。
最后,运行create_train_data()函数之后,我们得到了一个包含特征与标签的训练集。通过print(len(train_data))来查看这个训练集发现其中一共有24946个样本。
由于在读取和处理图像的时候,是先读取Dog的图像再读取Cat的图像,因此整个train_data的前12500个样本会都是Dog,而后12500个样本则都是Cat。这样训练对机器学习程序来说会很不友好,因此,我们需要对其进行打乱(Shuffle)。

import random

random.shuffle(train_data)

运行完shuffle方法之后,我们的训练集就被成功地打乱了。
最后,让我们将准备好的训练集以特征与标签的形式保存下来。以机器学习程序的标准命名规则来以X来表示特征集,y来表示标签。

for feature, label in train_data:
    X.append(feature)
    y.append(label)
    
X = np.array(X).reshape(-1, img_size, img_size, 1) # 最后的1代表grayscale 只有1个通道

准备完成之后,将X和y通过pickle来保存下来,以便别的程序使用。

import pickle

# pickle保存数据
pickle_out = open("X.pickle", "wb")
pickle.dump(X, pickle_out)
pickle_out.close()

pickle_out = open("y.pickle", "wb")
pickle.dump(y, pickle_out)
pickle_out.close()

# pickle读取数据
pickle_in = open("X.pickle", "rb")
X = pickle.load(pickle_in)

保存完成之后,我们将会在相应的文件夹下面找到X.pickle与y.pickle文件。
在下一节中,我们通过Keras的Sequential模型来建立并训练一个卷积神经网络。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,126评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,254评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,445评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,185评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,178评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,970评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,276评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,927评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,400评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,883评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,997评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,646评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,213评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,204评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,423评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,423评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,722评论 2 345

推荐阅读更多精彩内容