高级计量经济学 1:绪论、微积分、线性代数
此文内容为《高级计量经济学及STATA应用》的笔记,陈强老师著,高等教育出版社出版。
我只将个人会用到的知识作了笔记,并对教材较难理解的部分做了进一步阐述。为了更易于理解,我还对教材上的一些部分(包括代码和正文)做了修改。
仅供学习参考,请勿转载,侵删!
本文目录:
-
1 绪论
- 1.1 什么是计量经济学
- 1.2 经济数据的特点与类型
-
2 数学工具
-
2.1 微积分
- 2.1.1 导数
- 2.1.2 一元最优化
- 2.1.3 偏导数
- 2.1.4 多元最优化
- 2.1.5 积分
- 2.2 线性代数*
- 2.2.1 矩阵
- 2.2.2 方阵、对称阵、单位阵
- 2.2.3 转置
- 2.2.4 向量、内积
- 2.2.5 矩阵的加法
- 2.2.6 矩阵的数乘
- 2.2.7 矩阵的乘法
- 2.2.8 线性方程组
- 2.2.9 逆
- 2.2.0 秩、线性无关
- 2.2.11 二次型、(半)正定
-
2.1 微积分
1 绪论
1.1 什么是计量经济学
“计量经济学”,Econometrics,也叫“经济计量学”。就是运用概率统计的方法对经济变量之间的(因果)关系进行定量分析的科学。由于实验数据的缺乏,计量经济学常常不足以确定经济变量之间的因果关系。
学习计量经济学的时候很有必要时时以“因果关系”作为思考的框架与指引。计量分析必须建立在经济理论的基础上进行。
考虑一个例子,考虑决定教育投资回报率的因素:
其中:
- 为工资收入的自然对数,为“被解释变量”
- 为受教育年限,为“解释变量“
- 为随机扰动项
如果直接对这个模型进行回归,效果必然不错。但是,影响工资的因素还可能包含其他诸如个人能力等等因素,能力厉害的人通常选择接受更多的教育,所以教育的高回报其实包含了对能力的回报。
另外,影响工资收入的因素还有更多,所以我们还需要引入更多的控制变量
,采用多元回归的方法,才能够比较准确地估计我们感兴趣的参数 ,这就相当于冲淡单一变量的效应。另外,现实中总存在某些无法观测到变量,即存在遗漏变量
,而这些遗漏变量统统被纳入随机扰动项 中去了。
1.2 经济数据的特点与类型
由于经济学无法像自然科学意义做控制实验,所以经济数据一般不是实验数据,而是自然发生的观测数据。由于个人行为的随机性,所以经济变量原则上都是随机变量。所以,在本教材(笔记)中,所有变量都是随机的,即便是非随机的常数也可以被看作是退化的随机变量。
经济数据按照其性质,可以分为:
- 横截面数据(cross-sectional data):多个经济体的变量在同一时点上的取值
- 时间序列数据(time series data):某个经济体的变量在不同时点上的取值
- 面板数据(panel data):多个经济个体的变量在不同时点上的取值
2 数学工具
2.1 微积分
2.1.1 导数
对于一元函数 ,一阶导数(first derivative)定义为:
可以定义 的导数为二阶导数:
直观上,二阶导数表示切线的斜率的变化速度,即曲线 的弯曲程度,也称为曲率
。
2.1.2 一元最优化
计量中常见的两种估计方法为最小二乘法
与极大似然估计
,二者都是最优化问题(optimization)。前者为最小化问题(minimization),后者为最大化问题(maximization)。
考虑无约束一元最大化问题:
则一阶条件,(First Order Condition)为:
除了一阶条件外,还需要满足二阶条件:
一般满足一阶条件以后还必须看看二阶条件。
2.1.3 偏导数
对于多元函数 ,定义 对于 的偏导数
(partial derivative)为:
在计算 对于 的偏导数时,只要把 当成常数即可。在经济学中,偏导数代表边际效应。
2.1.4 多元优化
考虑无约束多元最大化问题:
其中, ,那么一节条件要求在最优值 处,所有偏导数为0:
此一节条件要求在最优值 处,曲面 在各个方向的切线斜率都为0。
2.1.5 积分
考虑连续函数 在区间 上的面积。将区间划分成 等分,即 ,每个区间的长度为 从每个区间 中任取一点 ,则此面积近似为:
不断细分这些区间,让 ,可得此面积精确值,即函数 在区间 上的定积分为:
在极限处,将 记为 ,将求和符号 记为 。积分的实质就是求和。
2.2 线性代数
2.2.1 矩阵
将 个实数排列成如下的矩形数阵,
则称 为 矩阵(matrix)。而且:
- 中元素 表示矩阵 的第 行、 第 列元素
- 矩阵 有时候也记为 ,以强调矩阵的维度
- 如果 ,那么称 为
零矩阵
,记为 - 在矩阵运算中的作用,相当于实数 在标量运算中的作用
2.2.2 方阵、对称阵、单位阵
如果 ,则称 为 阶方阵
(square matrix),即:
而且:
称 为
主对角线上的元素
称 为
非主对角线上的元素
如果满足 ,那么就称 为
方阵
如果 为方阵
且非主对角线上的元素
均为0,那么就称 为对角矩阵
:
更有甚者,如果对角矩阵
主对角线上的元素
上的元素均为 ,那么称为单位矩阵
,记为:
在矩阵运算中的作用,相当于实数 在标量运算中的作用。
2.2.3 转置
如果将矩阵 的行与列交换,就得到了其转置矩阵
,记为 ,其维度为 。
- 如果 为对称矩阵,那么:
2.2.4 向量、内积
向量是矩阵的特例,对矩阵 ,如果:
-
,称为
行向量
(row vector) -
,称为
列向量
(column vector)
如无意外,本教材所有向量都是列向量。考察 维向量 和 ,定义向量 和向量 的内积
(或点积)为:
任何形如 都可以写成向量内积 的形式。例如平方和 就可以写成:
2.2.5 矩阵的加法
如果两个矩阵维度相同,就可以相加。只需要将对位的元素加起来就可以了:
矩阵加法满足以下性质:
- :加上 不变
- :交换律
- :结合律
- :加法转置
2.2.6 矩阵的数乘
矩阵 与实数 数乘(scalar multiplication)定义为此实数 乘以任何 :
2.2.7 矩阵的乘法
如果 的列数和 的行数相同,则可以定义矩阵的乘法: 为:
也即 是 第 行与 第 列的内积
有以下性质:
- 一般来说: ,所以要区分左乘和右乘
- :乘以 不变
- :结合律
- :分配律
- :乘法转置
2.2.8 线性方程组
考虑 个方程, 个未知数构成的线性方程组:
其中, 为未知数。根据2.2.7的乘法定义,我们记:
则上述方程可以简便地写成,如果 可逆,则可以求解:
2.2.9 逆
对于 阶方阵 ,如果存在 阶方阵 使得满足 ,那么就说 是可逆矩阵
(invertible matrix)或非退化矩阵
(nonsingular matrix),而 是 的逆矩阵
,记 ,则:
- :逆的逆是自己
- :非奇异
- 是唯一的
- :求逆和转置可以交换次序
- :求逆乘积
2.2.10 秩、线性无关
一个关于秩的不严谨定义:一个向量组可以表达的信息的最高维度。
矩阵 的秩为 的数学意义是一组向量能最多够表达 维空间的信息。
比如,考虑 维列向量 和 ,如果正巧 是 的固定倍数,那么在向量组 中,真正含有信息的其实只是一个向量,即这个向量组至多能够表达1个维度的信息。
更一般地,对 个 维向量组 如果存在 不全为0,使得:
那么就说 向量组 线性相关(linearly dependent)。说白了就是,这 向量所包含的信息实际上不足以表达一个 维的空间。或者说,有一些向量是多余的,因为它可以被其他向量表达出来。反过来,如果有如下逻辑关系:
那么就说向量组 线性无关(linear independent)。也就是说,这 个向量没有一个多余,它们谁也不能替代谁,从而在一起可以表达一个 维空间的信息。
对于 矩阵 ,可以将其 个列向量看成是一个向量组,称此向量组的秩为矩阵 的列秩
;同理可以定义行秩。需要知道,矩阵的列秩和行秩必然相等,统称为矩阵的秩。
2.2.11 二次型、(半)正定*(重点!)
对于 维列向量 ,如何度量它与 的距离呢?最简单的方法就是欧几里得距离(Euclidean distance),即内积:
为了后面看的更加清楚,写成:
在这里, 相当于给每一个 相同的权重。如果允许不同的权重,就可以使用任意的一个对称矩阵 ,构成如下的二次型
(quadratic form):
那么这个函数 就称为一个二次型。说白了二次型就是一个二次齐次的多项式函数,对称矩阵 的功能就是给给定每个二次型 前面的系数 ,或者说给定它们一个在计算距离(如果需要除以 求平均距离的话)时的权重。
对任意一个二次齐次的多项式函数(现在开始我们叫二次型),都可以写成 的形式,这是显然的,因为 遍历了所有 的组合。
问题是,距离一定要是正的嘛,我们如何确定函数 这个二次齐次的多项式函数(叫二次型!!!)一定是一个正数呢?于是就有了正定矩阵
的定义:
- 如果对称矩阵 必然满足使得二次型 必正,就说 是一个
正定矩阵
- 如果对称矩阵 必然满足使得二次型 必非负,那么称 是一个
半正定矩阵
- 同理还有
负定矩阵
和半负定矩阵
性质:如果对称矩阵 正定,则该矩阵可以通过线性变换转换为一个主对角线上元素全部为正数的对角矩阵 ;则这些对角线元素正好是对称矩阵 的特征值,故正定矩阵一定可逆。
更进一步,如果 通过线性变换变成 ,就会使得多项式函数只保留 ,而不存在 这样的交叉项,那么 必然为正!
回到权重的问题。既然对称矩阵 的功能是给二次型一个权重,那么计量上什么时候会用到这个呢?
计量上经常使用形如
这样的二次型。其中, 是 维随机变量,而 是其协方差矩阵的逆(相当于做分母)。这个二次型的直观含义是,将 到 的距离标准化,以避免 收到单位的影响,而且标准化后的距离用“标准差距离
”衡量。比如我们会说” 偏离 的距离足足有3个标准差“,这对假设检验至关重要!