1.经济数据缺失值的简单处理(笔记)

我的专业方向在写论文的时候用的大都是省级或者地级市的经济数据,一般这些数据都是从年鉴、国民经济社会发展统计公报、各类统计年报或者政府网站上获取,但是总会遇到统计不全导致的数据缺失问题。比如环境污染相关指标、专利申请授权数等,对于这些缺失数据,我的补齐方法一般是以下几种:

一、合并不同来源的数据

  • 结合几个不同的数据来源,选取数据的并集。对于重复数据优先选择来源较为权威的数据,或者结合前后年份和变化趋势选择较为合理的一个。
  • 找数据真的很艰难,经常找着找着心态就崩溃了,但这是做经济实证中势必要面对的问题。作为一个学生,自己的文章要自己动手去找数据,为了得到较为准确的结果、为了这批数据以后的可重复使用性,每一个数据的准确性都要让自己安心。

二、简单计算

  • 如果几个指标之间有明确的计算关系(比如:第二产业产值、地区生产总值、第二产业产值占地区生产总值比重),任何一个缺失都可以用另外两个计算补齐。
  • 如果公报中连续统计了几年的地区生产总值,后来突然改为统计人均地区生产总值,同时报告了人口数据。可以验证一下地区生产总值(是否大致)=人均地区生产总值×人口。一般来说数值会有出入,但当数据实在找不到时,不要嫌麻烦,可以作为一种补齐的参考。
  • 建议将原始数据(含有缺失值的数据)保存一下,补齐后的数据另存。因为补齐的方式有好多种,如果实证结果不理想,想从补齐数据开始重做,这样会比较方便。

三、取中间值

  • 该方法适合于:某项指标下,前后年份均有数值,中间年份缺失。
  • 用线性插值法补齐(年份距离比较近,可以将其变化近似看作线性以简化计算)。比如图1的专利缺失数据可以取均值,然后取整数。


    图1.png

四、类似样本填补

  1. 找该指标数据类似的其他地级市来对缺失个体进行补齐。
  • 假设想要补齐的原始数据为“地级市2002-2016年的专利申请授权数”,比较该指标下的非缺失值序列,选择非缺失年份下专利申请授权数大致相同或者有趋势关系的地级市,用它的数据直接填补或者作简单的倍数计算填补缺失的数据。
  1. 有时会找经济发展类似的其它地级市的数据进行填充,基于经济发展与专利申请授权数具有正向线性关系的假设(不太严谨)。如果用基于该假设补齐的数据做“经济发展与专利授权数关系”的研究,就是不合理的。
  • 假设某个地市级的2002-2016年专利申请数据几乎全部缺失,此时无法使用专利申请数来选取相似个体,可以用与“专利申请数”相关的其它经济变量(比如地区生产总值)作为标准,选取相似个体填补整行数据。

五、函数法

该方法一般适用于:单侧缺失(一般是较早年份缺失,最近年份的数据一般比较齐全)。

  1. 线性函数(excel里trend函数)。


    图2.png
  • 图2的 trend函数假定经济数据与时间存在相关关系(专利数据要取整)。构建函数时候应选择与缺失数据邻近年份的数据(认为经济数据的相关关系在时间上具有衰减性)。
  1. 非线性函数(excel散点图,加入非线性趋势线,根据公式计算缺失数据)。图3-图5以填补专利数据为例。


    图3
图4
图5
图6
  • 问题
    1.选取哪些年份的数据构建函数?
    选取不同时间区间计算出来的函数不同,计算的缺失值也会不同,可能要多试几次。
    2.按理说这种统计方法计算的缺失值可靠性要高一些,但是实际中发现这种方式计算出来的缺失值不符合变化趋势,甚至会出现负值。
    3.以上缺失值处理都是在excel中完成的,手动操作、效率比较低。

六、插值法(Matlab)

有位老师告诉我三次样条插值的方法,计算出来的缺失值较为平滑,结果可能相对合理。去查了一下matlab可以实现,不过只能下次处理数据的时候再实际操作了。

Matlab插值函数为interp1,其调用格式为: yi= interp1(x,y,xi,'method')
其中x,y为插值点,yi为在被插值点xi处的插值结果;x,y为向量, 'method'表示采用的插值方法,MATLAB提供的插值方法有几种: 'method'是最邻近插值, 'linear'线性插值; 'spline'三次样条插值; 'cubic'立方插值。缺省时表示线性插值。
注意:所有的插值方法都要求x是单调的,并且xi不能够超过x的范围。
参考来源:http://blog.sciencenet.cn/blog-457143-679275.html

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,590评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 86,808评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,151评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,779评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,773评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,656评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,022评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,678评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 41,038评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,659评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,756评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,411评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,005评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,973评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,203评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,053评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,495评论 2 343

推荐阅读更多精彩内容