计算机视觉数学入门-线性代数和数值方法

在计算机视觉中,图像,视频的表示都是由矩阵、张量来进行表示的,所以矩阵分解在计算机视觉中算是比较重要的数学技术,如在PCA和image segmentation中,都会用到SVD方法,或用于提取矩阵奇异值,或用于简化计算大规模线性方程组,可谓用途很多。

线性代数与数值方法:
A.1 矩阵分解
矩阵分解方法可大致分为奇异值分解(SVD)、特征值分解、QR因子分解和乔里斯基(cholesky)因子分解。

A1.1 奇异值分解SVD
SVD是矩阵分解中最常用的方法,即任意的一个MN的实数值矩阵都可以分解为mp(U)、pp、pn(V)的三个矩阵相乘,U、V为正交矩阵,p为min(m,n)

  奇异值分解的一个重要性质是可以对展开式进行截尾计算,获得原始矩阵在最小二乘意义下的最佳逼近,可用于基于特征脸的人脸识别系统和卷积核的可分性估计。

A1.2 特征值分解
如果矩阵C是对称矩阵(m=n),那么它可以写成特征值分解的形式,特征值递减,可以为正,也可以为负
特殊情况是,若C为满秩的,所有特征值均为非负,可通过一系列外积之和来进行构造,则该矩阵被成为对称半正定矩阵(SPD),如一组数据点围绕其中心的协方差即为对称半正定矩阵


image.png
   对于大型矩阵的特征值分解求解,经常使用QR迭代求解,并最好使用一些线性代数工具包如LAPACK等。
   对有缺失数据项的矩阵进行因子分解会用到各种不同的迭代算法,涉及对缺失项进行假设或最小化一些加权的重构度量,这一领域也有着广泛的研究。

A 1.3 QR因子分解
QR因子分解是一项广泛应用于稳定求解病态最小二乘问题的方法,也是一些更复杂算法的基础,如计算SVD及特征值分解:
A = QR
其中Q是正交矩阵(酉矩阵),R为上三角形矩阵,在计算机视觉中,QR因子分解可以用于将摄像机矩阵转换为旋转矩阵和一个上三角的标定矩阵,也可以用于各种自标定算法,和SVD、特征值分解不同的是,QR因子分解并不需要迭代计算。

A 1.4 乔里斯基分解
乔里斯基因子分解可以用于将任意的对称正定矩阵C转换成上三角矩阵或下三角矩阵的乘积,其中的上三角矩阵和下三角矩阵是对称的
C = LL^T = R^TR
L是下三角矩阵,R是上三角矩阵。

A. 2 线性最小二乘
线性最小二乘问题在计算机视觉中很常见,如在基于特征点匹配的图像对齐中,即要最小化一个平方距离目标函数。
最简单的拟合方式为直线拟合,复杂些的有多项式拟合,正弦拟合。
对于线性最小二乘问题,通常用x表示未知参数,其求解正则方程来求得x得最小值,常用的解法是乔里斯基分解,转化为求解两个三角系统计算。

   全部最小二乘:
   在一些问题中(如在2D图像中进行几何曲线拟合成或者在三维空间中用平面拟合一组数据点云),测量误差不只在一个特定的方向上存在,测量点在各个方向都具有一定的不确定度,这种情况成为“变量含误差模型”,很多时候我们将其转化为这样的数学表达式:
   ![image.png](https://upload-images.jianshu.io/upload_images/16818227-7606a1f72aaea271.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)
   可见,该误差度量函数有一个平凡解x =0,因此我们需要要求x满足,x的模为1,即转化为以下问题:
 ![image.png](https://upload-images.jianshu.io/upload_images/16818227-1cd012d2668b5e1a.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)
 对于线性方程拟合问题,考虑到最大似然法要求各个随机变量噪声分布相同,所以常对数据采用归一化,中心化处理。

A.3 非线性最小二乘
很多视觉问题中,如从运动到结构的问题,最小二乘的函数不是线性的,这种问题称为“非线性最小二乘问题或非线性回归”。对于这类问题,因为大多数为多维函数,需要使用梯度导数(雅可比矩阵)在当前估计的参数p附近对函数迭代地进行线性化,并计算出一个增量改进。


image.png

此类方法的局限在于该近似仅在局部极小值附近或在delta p很小时成立,每一步的更新不一定总能减少累加来的平方残差,所以有很多方法来解决这一问题,如直线搜索减少步长、带阻尼的高斯牛顿法、大残差方法(newton-type)、Quasi-Newton方法

A. 4 直接稀疏矩阵方法
光速平差法等优化问题都会涉及极度稀疏的雅克比矩阵和hessian矩阵,当hessian矩阵足够稀疏时,使用稀疏的乔里斯基因子分解就会比用一般的乔里斯基因子分解效率更高。

变量重排:
使用非迭代的解法求解稀疏矩阵问题的关键是为变量确认一个合理的顺序,可以减少填充的数量。
。。。。

ps:这部分有些复杂

A. 5 迭代方法
当问题的规模很大时,

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,175评论 5 466
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,674评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,151评论 0 328
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,597评论 1 269
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,505评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 47,969评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,455评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,118评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,227评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,213评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,214评论 1 328
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,928评论 3 316
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,512评论 3 302
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,616评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,848评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,228评论 2 344
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,772评论 2 339

推荐阅读更多精彩内容