机器学习
Machine Learning (ML) is a scientific discipline that deals with the construction and study of algorithms that can learn from data.
机器学习是一门从数据中研究算法的科学学科。
机器学习直白来讲，是根据已有的数据，进行算法选择，并基于算法和数据构建模型，最终对未来进行预测。
数据分析
Data analysis is a process of inspecting,cleansing,transforming and modeling data with the goal of discovering useful information, informing conclusions, and supporting decision-making.
数据挖掘是一种特殊的数据分析技术，专注于建模和知识发现，用于预测而非纯粹的描述目的，而商业智能涵盖的数据分析主要依赖于聚合，主要关注业务信息。在统计应用中，数据分析可分为描述性统计、探测性数据分析（EDA）和验证性数据分析（CDA）。EDA专注于发现数据中的新功能，而CDA则专注于确认伪造现有的假设。预测分析侧重于应用统计模型进行预测分析或分类，而文本分析则应用统计，语言和结构技术从文本来源（一种非结构化数据）中提取和分类信息。
数据挖掘
Data mining is the process of discovering patterns in large data sets involving methods at the intersection of machine learning ,statistics, and databases system.
数据挖掘过程的总体目标是从一个数据集中提取信息，并将其转换成可理解的结构，以进一步使用。除了原始分析步骤，它还涉及到数据库和数据管理方面、数据预处理、模型与推断方面考量、兴趣度度量、复杂度的考虑，以及发现结构、可视化集在线更新等处理、
数据挖掘是“数据库知识发现”（Knowledge-Discovery in Databases, KDD）的分析步骤，本质上属于机器学的范畴。
数据挖掘的实际工作是对大规模数据模型进行自动或半自动的分析，以提取过去未知的有价值的潜在信息，例如数据分析（通过聚类分析）、数据的异常记录（通常异常检测）和数据之间的关系（通过关联式规则挖掘）。这通常设计到数据库技术，例如空间索引。这些潜在信心可以通过对输入数据处理之后的总结来呈现，之后可以用于进一步分析，比如机器学习和预测分子。
机器学习分类，方式1：
机器学习分为：有监督学习、无监督学习、半监督学习。
有监督学习：用已知某种或某些特性的样本作为训练集，以建立一个数学模型，再用已建立的模型来预测位置样本，此种方法被称为有监督学习，最常用的一种机器学习方法，是从标签化训练数据集中推断出模型的机器学习任务。
无监督学习：与有监督学习相比，无监督学习的训练集中没有人为的标注结果，在非监督的学习过程中，数据并不被特别标注，学习模型是为了推断出数据的一些内在结构。
半监督学习：考虑如何利用少量的标注样本和大量的未标注样本进行训练和分类的问题，是有监督学习和无监督学习的集合。
有监督学习
判别式模型（Discriminative Model)：直接对条件概率P(y|x)进行建模，常见判别模型有：线性回归、决策树、支持向量机SVM、k近邻、神经网络等。
生成式模型（Generative Model)：对联合分布概率P(x,y)进行建模，常见生成式模型有隐马尔可夫模型HMM、朴素贝叶斯模型、高斯混合模型GMM、LDA等。
生成式模型更普适；判别式模型更直接，目标性更强。
生成式模型关注数据时如何产生的。寻找的是数据分布模型；判别式模型关注的是数据的差异性，寻找的是分类面。
由生成式模型可以产生判别式模型，但是由判别式模型没法形成生成式模型。
无监督学习
无监督学习试图学习或者提取数据背后的数据特征，或者从数据中抽取出重要的特征信息，常见的算法有聚类、降维、文本处理（特征提取）等。
无监督学习一般是作为有监督学习的前期数据处理，功能是从原始数据中抽取出来必要的标签信息。
机器学习分类，方式2：
分类：
通过分类模型，将样本数据集中的样本映射到某个给定的类别中。
聚类：
通过聚类模型，将样本数据集中的样本分为几个类别，属于同一类别的样本相似性比较大。
回归：
反映了样本数据集中样本的属性值得特征，通过函数表达样本映射的关系来发现属性值之间的依赖关系。
关联规则：
获取隐藏在数据项之间的关联或相互关系，即可根据一个数据项的出现推导出其他数据项的出现频率。
