机器学习和深度学习之数学基础-线性代数 第三节 向量及其基本运算的直观理解

本文为原创文章,欢迎转载,但请务必注明出处。

线性代数中最基本、最根源的组成部分(building block)就是向量。第一节中从数学定义的角度抽象了向量概念,但是像我这样数学一般的平民需要更直观的解释才能在大脑里留下痕迹。

向量究竟是什么?

  • 从物理学的角度来说,向量是空间里的一个箭头,决定一个向量的因素是它的长度和所指的方向。只要这两个特征不变,我们可以自由地在空间中移动一个向量而保持该向量不变。
  • 从计算机的角度来说,向量是有序的数字列表,比如我们可以用一个包含三个指标(或特征)的来描述一个人:性别(gender),体重(weight),身高(height)。这三个特征被有序的放在一个数字列表里构成了一个三维向量: [gender,weight,height], 一旦这个向量定义完成,那么这三个特征在向量中的顺序不可改变。
  • 从数学的角度,向量试图综合上面的两个观点,认为只要保证向量的两个运算特性有意义即可,也就是我们在第一节里介绍的”向量相加及标量与向量相乘“。
  • 从运动的角度,向量是在空间中运动的对象

1、从“运动”的角度理解向量相加及标量与向量相乘

向量相加及标量与向量相乘从数字计算的角度来说很简单,但是从“运动”的角度理解这两个运算会变得更加直观,下面以二维平面直角坐标系为例来进行说明,其他高维空间类似。

首先,我们知道一个向量可以唯一对应一个点,如图一A所示,在平面上有一个红色的点(1,2),它可以由向量 a 表示 (我们可以把向量看成是坐标系中起点在原点的一个有长度及方向的箭头,图中的红点表示终点,也就是箭头所指向的点)。

图一,从“运动”的角度理解向量相加及标量与向量相乘

平面直角坐标系的两个标准正交基向量是 [1,0](或者叫做位于x-轴的单位向量,有的地方记作 î ) 和 [0,1] (或者叫做位于y-轴的单位向量,有的地方记作 ĵ ),分别位于 x-轴和y-轴上并指向他们的正方向。于是,根据第一节说明,a 可由这两个标准正交基唯一线性表示:

也就是说 a=b+c,即向量 a 是 向量 b 和 c 相加的结果, 既然是加法,那么向量 a 就可以看成是这样得到的:一个人从原点出发,首先沿着 b 的方向走了 ‖b‖ (即向量 b 的长度) 的距离,然后再沿着 c 的方向走 ‖c‖ 的距离所到达的位置就是 a 向量所在的位置(终点)。

同样,图一B中所示的是 w=u+v 也可以看成是一个人从原点出发,首先沿着 u 的方向走了 ‖u‖ 的距离,然后再沿着 v 的方向走 ‖v‖ 的距离所到达的位置就是 w 向量所在的位置(终点)。

图一C中表示的标量与向量相乘,当标量 α>1 (0≤α≤1)时,αa 的是沿着向量 a 的相同的方向对 a 的长度 ‖a‖ 拉伸(或收缩) α 倍得到的结果;当标量 α<−1 (−1≤α≤0) 时,αa 的是沿着向量 a 的相反方向对 a 的长度 ‖a‖ 拉伸(或收缩) α 倍得到的结果。

2、从几何的角度理解张成、向量空间和基向量

根据上面的说明,我们进一步提出如下的问题:对于 w=u+v ,如果我们固定向量 u ,而改变向量 v 的长度(但不改变它的方向),即新的w′=u+αv ,那么这个时候的向量 w′ 会是什么样子呢?

图二,固定一个向量,改变另一个向量的长度(不改变方向)后的向量相加结果

如图二所示,当固定向量 u 而只改变向量 v 的长度而不改变其方向时,新向量 w′ 的终点在直线上 l1 上(直线 l1 过向量 u 的终点且与向量 v 平行)。同理,当固定向量 v 而只改变向量 u 的长度不改变其方向时,新向量 w′ 的终点在直线上 l2 上( 直线 l2 与向量 u 平行且过过向量 v 的终点)。

如果向量 u 和 v 的方向不变,但是两个向量长度都自由改变,即w′=αu+βv ,那么 w′ 就可以在平面上的任何位置(当然前提是向量 u 和 v 不在同一条直线上,或两个向量不平行,即向量 u 和 v 线性无关)。这也就是说向量 u 和 v 张成 (span) 了平面空间,这就直观的理解了在第一节介绍的张成概念。而这个平面空间就是这里的向量空间(也就是线性空间)。从这里可以看出为什么在第一节的时候介绍说向量或组成向量空间所必须的两个特性或运算是向量相加及标量与向量相乘。 这个时候,向量 u 和 v 就是平面空间的基向量。

等式 w′=αu+βv 体现了”缩放基向量再相加“的思想。从这里又可以看出,为什么在第一节的时候介绍说向量空间的基不是唯一的,所谓空间的基向量只要满足两个条件:第一,向量之间线性无关(即任意两个向量之间没有处与同一条或者平行);第二,这些线性无关向量可以张成整个向量空间。如果这些基向量之间相互正交(垂直,即内积为0)而且长度为1,那么这些基向量就是标准正交基,比如上面的在直角坐标系里平面空间的标准正交基 [1,0] 和 [0,1] 。由于向量空间的基不是惟一的,那么一旦向量空间确定了一个基,那么这个基对应的坐标系也就确定了。比如一旦平面空间的标准正交基 [1,0] 和 [0,1] 确定,那么这个平面空间就确定了一个直角坐标系。

这样通过几何的角度直观的理解向量后,对于在第一节中介绍的线性代数中的一些概念如线性组合、张成、向量空间(或线性空间)以及基向量就更容易理解。

3、小结

这一节介绍了从运动的角度直观的理解向量的概念,下一节将从运动的角度介绍线性变换及其与矩阵的关系。

References:
[1] 3Blue1Brown教学视频

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,590评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 86,808评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,151评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,779评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,773评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,656评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,022评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,678评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 41,038评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,659评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,756评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,411评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,005评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,973评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,203评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,053评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,495评论 2 343

推荐阅读更多精彩内容