MXnet学习---2

上一篇,我完成了相关软件的安装和环境配置。
这一篇是阅读 https://zh.gluon.ai/chapter_crashcourse/introduction.html
预备知识的阅读以及听课笔记。
今天的课程是这一部分:

Screen Shot 2017-10-31 at 9.17.34 AM.png

1.机器学习简介

1.1感性认识机器学习

首先通过语音识别的一个小应用来对什么是机器学习进行一个感性上的介绍:

Screen Shot 2017-10-31 at 9.18.50 AM.png

Screen Shot 2017-10-31 at 9.19.53 AM.png

人类很难一步一步地告诉计算机,什么样的一段语音里面是含有目标检测词,什么样的一段语音是不含有的。因为人类自己虽然能够识别,但是却无法详细叙述和精确定义这个过程。那么解决的方法是什么呢:把大量的数据呈现给计算机,让它自己却“摸索”识别目标检测词是否出现在一段语音中的方法也就是模型)。
这个过程,我觉得这里沐神的定义特别好-----用数据编程。

然后,他用一个简单有趣的例子,对比了什么是用代码编程和什么是用数据编程:

Screen Shot 2017-10-31 at 9.26.28 AM.png

这种问题,使用机器学习方法显然是并不出彩。但是对那些,人类“说不清为什么,就能解决”的问题,比如三岁的孩子都能百分百区分猫狗,识别他自己的名字,这样的过程,我们让机器也学会这种“说不清,就做到”了的过程。就是机器学习。这种说不清的过程,有一种,就是申请网络。

1.2机器学习最简要素:数据,模型,损失函数,优化算法

Screen Shot 2017-10-31 at 9.35.27 AM.png

他这里数据只较简单地分为了训练数据,和测试数据。
过拟合,一般是训练数据的误差比较明显地小于测试误差。


Screen Shot 2017-10-31 at 9.37.45 AM.png

1.3监督学习

监督学习,我见过的一个最生动的解释是:小孩子做了一件事,父母告诉他这么做好还是不好,直接给出确定的答案(标注,label)。

Screen Shot 2017-10-31 at 9.59.19 AM.png

1.3.1监督学习之一:回归分析 linear regression

它一般就是输出是连续值。

例如我们可以把本月公司财报数据抽取出若干特征,如营收总额、支出总额以及是否有负面报道,利用回归分析预测下个月该公司股票价格。

一个更详细的例子,一个房屋的销售的数据集。构建一张表:每一行对应一幢房子;每一列对应一个属性,譬如面积、卧室数量、卫生间数量、与市中心的距离;我们将这个数据集里这样的一行,称作一个特征向量(feature vector),它所代表的对象(比如一幢房子),称作样例(example)。

如果住在纽约或三藩这种大城市,你也不是某个知名科技公司CEO,那么这个特征向量(面积、卧室数量、卫生间数量、与市中心的距离)可能是这样的[100,0,.5,60][100,0,.5,60]。如果住在匹兹堡,则可能是这样的[3000,4,3,10][3000,4,3,10]。这些特征向量,是所有经典机器学习问题的关键。我们一般将一个特征向量标为 xi,将所有特征向量的集合标为 X。

一个问题是否应采用回归分析,取决于它的输出。比如你想预测一幢房子的合理的市场价格,并提供了类似的特征向量。它的目标市场价是一个实数。
如果我们把模型预测的输出值和真实的输出值之间的差别定义为残差,常见的回归分析的损失函数包括训练数据的残差的平方和或者绝对值的和。机器学习的任务是找到一组模型参数使得损失函数最小化。我们会在之后的章节里详细介绍回归分析。

1.3.2监督学习之2:分类

回归分析所关注的预测可以解答输出为连续数值 的问题。当预测的输出是离散的 类别时,这个监督学习任务就叫做分类。
多于两种可能类别的问题称为多分类。常见的例子有手写字符识别[0, 1, 2, 3 ... 9, a, b, c, ...]
。分类问题的损失函数称为交叉熵(cross-entropy) 损失函数。可以在MXNet Gluon
找到
数学上,最最基本的,我们需要算一下预期风险,即,把结果概率与相应的收益(或损失)相乘:

L(action∣x)=Ey∼p(y∣x)[loss(action,y)]

Screen Shot 2017-10-31 at 10.17.23 AM.png

在动物分类的中,将贵宾犬误认为雪纳瑞并不是很严重的错误,但把贵宾犬和恐龙混淆就是另一回事了。但是,什么结构是合适的,取决于模型的使用。例如,响尾蛇和束带蛇在演化树上可能很近,但是把一条有毒的响尾蛇认成无毒的束带蛇可是致命的。

1.3.3标注

1.3.4搜索与排序

1.3.5推荐系统

1.3.6序列学习

1.4无监督学习

1.5与环境因素交互

1.5.1

1.5.2 强化学习

1.5.3 马尔可夫决策过程,赌博机问题

1.6小结

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 195,898评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,401评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 143,058评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,539评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,382评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,319评论 1 273
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,706评论 3 386
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,370评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,664评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,715评论 2 312
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,476评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,326评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,730评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,003评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,275评论 1 251
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,683评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,877评论 2 335

推荐阅读更多精彩内容