线性代数的本质-特征向量/特征值

视频地址:https://www.bilibili.com/video/av6540378/?spm_id_from=333.788.videocard.0

本篇来讲一下线性代数中非常重要的一个概念:特征向量/特征值。

前面介绍过,一个矩阵代表的是一种线性变换,考虑二维空间中的某个线性变换,它将i即[1,0]变换到[3,0]的位置,将j即[0,1]变换到[1,2]的位置,那么对应的矩阵就是[3,1;0,2](先说一下写法,这里的[3,1;0,2],其中3,1是第一行,0,2是第二行):

在这个变换过程中,很多向量都离开了其原本所张成的空间,即所在的直线,但也有一些向量在变换后,仍恰好落在原来的直线上:

如上面的例子中,基向量i就落在了原来的直线即x轴上,只不过是被拉长了三倍,同样的,x轴上的任何其他向量在经过变换后都只是被拉伸为原来的三倍,且方向不变:

除了x轴上的向量外,向量[-1,1] 所在的直线上的向量在变换后仍在原来的直线上,只是长度被拉长了两倍:

总结一下,在刚才的线性变换中,有两条直线上的向量,在变换后仍在其所在的直线上,只不过长度和方向发生了改变,但其他的向量,都离开了它所张成的直线:

想必大家都知道结果了,经过上面矩阵所代表的线性变换,两条位置不变的直线上的向量都可以称之为特征向量,而对应伸缩的大小,就称之为特征值。值得一提的是,如果线性变换后是反向伸缩,那么特征值是负的:

接下来简单介绍一下特征值和特征向量的计算方法,首先根据刚才的介绍,一个矩阵A的特征向量,在经过这个矩阵所代表的线性变换之后,没有偏离其所张成的直线,而只是发生了伸缩或方向改变,所以首先可以写出下面的式子:

接下来要求解特征向量和特征值,首先需要做下变换,因为等式的左边代表的是矩阵和向量相乘,右边代表的是一个数和向量相乘,所以先把右边变为矩阵和向量相乘的形式,即让λ与单位矩阵相乘:

然后就可以都移到等号左边,提出公因子来:

接下来的目标就是求解向量v,使得v与(A-λI)相乘的结果为零向量。如果v本身是零向量的话,那等式恒成立。但我们真正想找的是非零的特征向量。

回顾本系列视频第五讲的内容,当一个二维矩阵的行列式为0时,它能代表的线性变换能将空间压缩为一条直线或者是零点。因此,想让v经过(A-λI)变换后的结果为零向量,(A-λI)的行列式值必须为0,所以整个过程如下:

以最开头提到的矩阵作为例子,很容易求解出特征值是2或者3:

求解出特征值了,如何求解对应的特征向量呢?以特征值2为例子,求解如下的方程组即可,你可以发现,一条直线上的所有向量都可以作为特征向量:

一般情况下,一个二维矩阵有两个特征值,而对应的特征向量在两条直线上,但也存在一些特殊情况。如有时候只有一个特征值,以及特征向量分布在一条直线上,如下面的矩阵,只有1个特征值,为1:

有一些矩阵并没有对应的特征值,比如将空间旋转90度的线性变换所对应的矩阵,空间中所有的向量在经过其变换后都偏离了原来的直线,旋转了90度,因此其没有特征向量。

更特别的,有时候一个矩阵只有一个特征值,但是其对应的特征向量分布在不同的直线上,如下面的矩阵将空间中所有的向量都拉伸了两倍,它只有一个特征值2,但是所有的向量都是其特征向量:

最后,讲一下特征基的概念。讲到基,又得搬出坐标系的概念了。假设我们坐标系的基是[1,0]和[0,1],如果基向量都是特征向量,那么会发生什么呢?没错,如果基向量都是一个矩阵的特征向量,那么这个矩阵就是一个对角矩阵,而对角线上的值,就是对应的特征值:

这句话反过来说对不对呢?即如果一个矩阵是对角矩阵,那么对应的特征向量都是基向量?好像有点问题,比如刚才的[2,0;0,2],它是一个对角矩阵,但其特征向量包括了所有的向量,而并非只有基向量。

但很多情况下,特征向量并非是基向量,但至少能够找到一组能够张成整个空间的向量集合,还是本文开头所讲的例子:

如果能找到这样一组向量,那我们就能变换坐标系,使这些向量成为新的坐标系下的基向量。这里先简单回顾一下上一个视频中所讲到的基变换的概念。假设我们的坐标系基向量分别是[1,0]和[0,1],那么矩阵[2,-1;1,1]的意思可以理解为,将我们空间中的[1,0]、[0,1],转换到另一个空间中的[1,0]、[0,1],而另一个空间中的[1,0]、[0,1],在我们空间看的话,坐标分别是[2,1]和[-1,1](这里可能比较绕,需要转一下弯)。

因此,矩阵[2,-1;1,1]所代表的线性变换,可以理解为将另一组坐标系下某一个向量的坐标,转换到我们这组坐标系下的坐标,同样的,矩阵[2,-1;1,1]的逆代表将一个向量在我们坐标系下的坐标,转换成另一个坐标系下的坐标。

因此如果想要将我们坐标系下的一个线性变换M,作用到另一个坐标系中,需要怎么做呢?首先要将一个向量在另一个坐标系中的坐标转换到我们的空间中坐标,然后在进行线性变换M,最后在变回到另一个空间中的坐标:

最后还是最开始的例子,假设想让在我们的坐标系下得到的特征向量(因为直线上所有的向量都可以作为特征向量,因此这里取了一个特例[-1,1],[1,0])作为新的坐标系下的基向量,新的坐标系下[1,0]和[0,1]对应的向量,在我们的坐标系下分别是[1,0]和[-1,1],那么就可以得到一个基变换矩阵[1,-1;0,1](基变换矩阵可以将另一个坐标系下的坐标转换为我们这个坐标系下的坐标)。

思考下面三个矩阵相乘的结果的结果:

假设中间的矩阵为M,那么上面三个矩阵相乘的意思其实是对另一个坐标系下定义的向量坐标应用在我们坐标系下的线性变换M。三个矩阵相乘的结果是一个对角矩阵,且对角线元素为对应的特征值:

从直观上理解,由于选择了矩阵M的特征向量作为新坐标系下的基向量,基向量在变换中只是进行了缩放。从数学上理解,如果把上面式子中左右两边同左乘矩阵[1,-1;0,1],其实就是特征向量的定义。把一个矩阵的特征向量作为基向量,这组基向量也称为特征基:

根据上面的式子,使用矩阵M的特征向量所组成的矩阵,成功将M进行了对角化。但并不是所有的矩阵都可以对角化,只有矩阵的特征向量够多,能够张成全空间时,才能进行对角化。

好了,本节的内容就这么多,深入浅出,小伙伴们一定记得去看视频哇!

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,802评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,109评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,683评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,458评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,452评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,505评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,901评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,550评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,763评论 1 296
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,556评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,629评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,330评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,898评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,897评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,140评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,807评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,339评论 2 342

推荐阅读更多精彩内容