机器学习≈机器自动寻找一个函数
根据函数输出分类
- 回归(Regression):函数的输出是一个数值;
- 分类(Classification):函数的输出是一个类别(选择题);
- Structure Learning(Generative Learning 生成式学习):生成有结构的物件;
找出函数
前置步骤:首先根据需求弄明白需要什么样的函数,与技术无关
再根据以下三个步骤进行:
1. 设定范围:设定候选函数的集合(该集合即为Model)
- 深度学习中类神经网络的结构,其实就是不同的候选函数的集合,如:RNN、Transformer、CNN等
为何类神经网络结构即为候选函数集合-课程-李宏毅
关于选择候选函数的范围划定
CNN课程
Self-attention课程
2. 设定标准:制定一个“评判函数优劣”的标准(该标准即为Loss,与该标准下函数的好坏呈负相关)
- 通过Supervised Learning,即寻求专业的专家来提供一个标准答案;
-
Loss Function接收之前函数生成的数据来计算Loss的值,即求出误差值;
- 在部分样本没有专家给出一些样本的标准答案时,我们要自己设定一些标准;例如图中说明“长得像”的Pokemon有一样的战斗力,然后按照此标准调整函数,使其Loss值尽可能小;
3. 完成目标:根据Loss找出最佳的函数(又称为:Optimization 最佳化)
如何在众多候选函数中高效找出最佳函数-Gradient Descent
如何在众多候选函数中高效找出最佳函数-Backpropagation