[哔哩哔哩视频地址](http://www.bilibili.com/video/av9559261/)
矩阵和向量的概念
矩阵是指由数字组成的矩阵队列,并写在方括号中间,也可以称为二维数组。矩阵的维度应该写作矩阵的行数乘以列数。
矩阵中的数字可能是机器学习问题的特征值,也有可能表示其他意识。
矩阵A如下:
1402 191
1321 821
949 1433
147 1448
这是一个4x3的矩阵,如何表示矩阵中某个元素呢
Aij = “i,j entry” in the ithrow, jth column
A11 = 1402
矩阵索引从1开始,非0
这就是矩阵的概念,向量简单的说就是nx1的矩阵,可以有n多行,但只有1列。
矩阵运算
矩阵的相加就是每个元素相加。
对于这个例子这是一个3行2列的矩阵乘以一个3行2列的矩阵,相加的结果也是3行2列的矩阵,所以你只能将相同维度的矩阵进行相加运算,同时所得到的结果将会是一个新的矩阵,维度也会保持不变。
如果两个维度不同的矩阵矩阵相加就会出现错误,例如一个3x2矩阵加2x2矩阵,结果是error,这两个矩阵的是没有意义的。这就是矩阵的加法运算。
接下来,讨论矩阵和标量的乘法运算,这里说的标量可能是一个复杂的结构,或者只是一个简单的数字,或者说实数。
实数乘一个矩阵,就是乘以矩阵的每一个元素。实数乘矩阵等价于矩阵乘以数字。
矩阵除以一个数字可以转化为矩阵乘以该数字的-1次方。例如矩阵/4 = 矩阵乘1/4
矩阵乘法
我们将从矩阵相乘的特例,向量相乘开始,即一个矩阵与一个向量相乘。
1.矩阵第m行的数字乘以向量,行内每个元素于向量中每个元素相乘,所得乘积相加作为结果向量的第m个元素。
2.矩阵列数必须和向量行数相同。
3.一个m行n列的矩阵乘以一个n维向量,得到的是一个m纬的向量。
假设我有4间房子,面积为
2104
1416
1534
852
还有一个假设函数hypothesis 用于预测房子的价格。
hθ(x) = -40+0.25x;
我需要计算四间房子作为X值的时候,H的大小(既预测的房价),有一个简单的方法,可以同时计算四间房子的预测价格,利用矩阵向量相乘的思想。
首先根据房屋面积构建一个4x2的矩阵,根据假设函数θ,1的值构建一个向量。
当有了一个最小化假设函数,现在需要预测很多个数据结果,使用矩阵乘法相乘的思想可以提高效率。
矩阵乘法与线性回归
在线性回归中用以解决参数计算的问题,这种方法会把θ,1都放在一起计算,而我们不需要一个迭代的梯度下降算法。
矩阵与矩阵相乘会得到一个新的矩阵,m行n列的矩阵乘n行o列的矩阵,得到的是m行o列的矩阵。
A矩阵乘B矩阵,将B矩阵第m列视为一个单独的向量于A矩阵所乘机得到一个友一维向量,该向量为结果矩阵的第m列
现在有多个假设函数用于预测,可应用矩阵乘法理论快速预测结果。
矩阵乘法的特性
矩阵乘法的运用非常实用,因为你可以通过矩阵乘法,将大量运算打包到一次矩阵的乘法运算中,但是怎样使用需要提起注意。
1.标量与矩阵相乘,乘法可以交换,也就是遵守实数乘法的交换率。但是不能应用在矩阵乘矩阵中,举例讲:A矩阵乘B矩阵 不等于 B矩阵乘A矩阵,如果A矩阵是mxn,B矩阵是nxm,A乘B的到的是mxm的矩阵,B乘A得到的是nxn的矩阵,因此矩阵乘法不符合交换率。
2.矩阵乘法符合结合律。设有矩阵A,B,C,则AxBxC = Ax(BxC)=(AxB)xC
单位矩阵:
一个特殊的矩阵,对角线都是1,其他都是0的矩阵,满足任何一个矩阵与其所对应维度的单位矩阵相乘,结果是其本身。
求导