第一章 使用神经网络识别手写数字(三)

人类的视觉系统绝对算是这个世界上的一个奇迹。考虑如下的手写数字的序列:


digits.png

大多数人都能轻易的认出这些数字是504192。其实轻易的认出这些数字只是个假象。在我们大脑的每个半球中都存在一个初级视皮层(primary visual corte),也被称为V1,包含1.4亿个神经元,并且这些神经元之间存在着数百亿的连接。但是人类的视觉系统不仅依赖于V1,而是整个视皮层——V2,V3,V4和V5——来逐步进行复杂的图像处理。我们的大脑就像一台超级计算机,经过亿万年的进化,已经非常适合理解视觉世界。识别手写数字并不简单,但是,我们人类极易理解我们眼睛看到的东西,并且这些几乎都是在无意识的情况下完成的,因此,我们通常并不会感激我们的视觉系统解决了多么艰难的问题。

如果你尝试写一个电脑程序来识别数字,就像上面的那些,视觉模式识别的困难将会非常明显。看起来很简单,但是亲自实现起来却很难。简单直观的识别形状的方法——“数字9上部有一个圆圈,并且右下部有一竖”——在算法表达上却没有这么简单。当你尝试做一些精确的规则的时候,你会很快的迷失在意外情况、注意事项和特殊情况里,毫无希望。

神经网络用不同的方法解决这个问题。这个方法需要大量的手写数字,即训练样本

mnist_100_digits.png

然后开发一个系统,这个系统可以从这些训练样本中学习。换句话说,神经网络使用这些训练样本自动的推断出识别手写数字的规则。此外,通过增加训练样本的数量,神经网络可以从更多的手写中学习,以此提高它的正确率。虽然在上面我只展示了100个训练数字,但可能我们要想做一个更好的手写识别器需要数千甚至数百万的训练样本。

在这一章里,我将写一个可以学习识别手写数字的的神经网络程序,这个程序仅仅74行,而且没有使用其他的神经网络库。但是这个小程序识别手写数字的准确率可以达到96%,并且没有人工干预。此外,在接下来的章节里,我们将改进想法,将正确率提高到99%。事实上,最好的商业神经网络效果非常好,可以被银行用来识别支票,可以被邮局用来识别地址。

一般来说,我们选择手写识别是因为它是一个关于神经网络的非常好的原型问题。作为原型,它击中了甜蜜点:具有挑战性,识别手写数字是一个不小的壮举,并且不需要极其困难的解决方案和强大的计算能力;此外,这是一个学习更先进技术的好方法,比如深度学习,所以在本书中会反复提到手写识别问题。本书接下来的部分中,我们会讨论怎样把这些方法用在计算机视觉的其他问题上,还有语音识别、自然语言处理等其他的领域。

当然,如果本章只是写一个识别手写数字的程序的话,本章将会短很多。但是,沿着这条线,我们将会学习很多神经网络的关键思想,包括两个重要的人工神经元(感知机和sigmoid神经元),和神经网络的标准学习算法,随机梯度下降算法。我将始终注重解释使用某种方法解决问题的原因,并建立你的神经网络直觉。这要比我刚才讲是怎样的基本方法要长的多,但为了你更好的理解这是值得的。其中的收益,当本章结束的时候,我们将以适当的方式理解什么是深度学习和深度学习为什么这么重要。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,839评论 6 482
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,543评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 153,116评论 0 344
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,371评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,384评论 5 374
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,111评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,416评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,053评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,558评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,007评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,117评论 1 334
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,756评论 4 324
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,324评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,315评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,539评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,578评论 2 355
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,877评论 2 345

推荐阅读更多精彩内容