风控建模流程

        以下以申请评分卡(A卡)建模为例,描述模型开发的基本流程:
1.数据准备:定义目标变量,整合样本特征;划分数据集:训练集、验证集与测试集,由于金融业务中的样本的积累周期比较长,因此测试集有必要划分为两种,一种为训练集时间跨度内,一种为训练集时间跨度之外,用时间外的测试集验证模型特征的稳定性。
2.探索性数据分析:统计每个特征取值的分布;统计每个特征的覆盖率,去掉覆盖率较低的特征;处理样本的异常值和缺失值。
3.数据预处理:根据经验对特征作预筛选,筛除于目标变量无关的特征;特征分箱;WOE转换。
4.特征选择:计算IV值,特征选择。
5.模型开发:常用逻辑回归模型进行拟合。
6.模型评估:模型常见的评估指标有AUC,ROC,KS,Gani-chat,Lift-chat,特征稳定性的评估指标psi。
7.生成评分卡。
流程示意图如下所示:


风控建模流程示意图.png

1.数据准备

        不同的评分模型需要的数据是不同的,在建模之前需要对对要解决的问题建立明确的数学定义。
1.排除一些特定的建模用户
        用于建模的用户必须是日常审批中接触到的用户,不能是异常情况,比如欺诈等。
2.明确用户的属性
        用户的基本属性,比如学历、年龄、收入情况等;征信机构的数据和其他外部数据,比如芝麻分。
3.目标变量的确立
        评分模型是利用历史的数据预测未来的行为,需要明确定义正负样本的标签。不能出现歧义,重叠等。
4.划分数据集
        通常训练模型需要划分训练集、验证集与测试集。信贷业务中样本成熟的经历的时间比较长,因此测试集需要时间内和时间外的数据,时间内外是相对训练集的时间跨度而言,避免经过一段时间后特征波动或失效的发生。

2.探索性数据分析(EDA,Exploratory Data Analysis)

EDA的实施主要包括:
1.描述性统计
        描述性统计是用一些统计量来对变量分析,如:平均值,标准差,最小值,最大值等。
2.统计每个变量值的分布、特征覆盖率及检验正态分布
        通常使用直方图绘制变量不同取值的样本分布,以及变量在样本中的覆盖率,筛除样本中有值特别少的变量。
3.极值的识别与处理
        每个变量需要设定一个正常的取值范围。对数量较少的超出正常范围的极端值作替换处理,若极端值的数量超过10%,则说明数据的生成机制不止一个。
4.缺失值的处理
4.1缺失值机制

  • 完全随机缺失(missing completely at random,MCAR)
    缺失数据与该变量真实值无关,与其他变量的数值也无关。举例:一位老师丢失几张学生试卷,导致几位学生没有成绩。成绩的缺失与成绩本身变量无关,也与性别无关,是完全随机的。
  • 随机缺失(MAR):缺失变量与其他变量有关。举例:统计学生信息时,体重缺失,一般来说,女生的体重缺失,与性别有关。
  • 非随机缺失(NNAR):缺失数量与该变量本身有关。举例:统计收入数据时,一般缺失的是收入过高或过低。
  • 完全变量:数据集中不含缺失值的变量。
  • 不完全变量:数据集中含有缺失值的变量。
            1,对缺失特别多的变量直接剔除;2,利用统计值替换,比如平均值,对离散变量,取同类样本中取值最多的特征值。

3.数据预处理

1.特征初筛
        根据业务经验预先筛除掉与目标变量无关的变量。
2.特征分箱
1)对于连续变量可以使用等频分箱、等距分箱、卡方分箱与最优分箱;
2)对于离散变量,可以卡方分箱,对离散变量取值合并分箱。
3.特征编码
1)特征分箱离散化后可计算每个bin的woe值,形成每个bin的woe编码
2)one-hot编码
3)dummy编码,与one-hot编码类似

4.特征选择

1.计算IV值与psi值
        IV(Information Value):信息价值。IV可以用来衡量自变量的预测能力;WOE(Weight of Evidence,证据权重)和IV使用来衡量变量的预测能力,值越大,表示此变量的预测能力越强。PSI可以用来衡量特征的稳定性。
        在训练模型时,挑选特征是一个比较复杂的过程,要考虑的因素有很多,比如,变量的预测能力,变量之间的相关性,变量的简单性(容易生成和使用),变量的强壮性(不容易被绕过),变量在业务中的可解释性。其中变量的预测能力可以通过IV值衡量。IV的计算是以WOE为基础的。

(1).WOE

        要对一个变量进行WOE编码,必须对变量离散化(分箱),分箱后,第i组的woe值得计算公式为:
WOE_{i}=ln(\frac{py_i}{pn_i}))=ln(\frac{(\frac{\#y_i}{\#y_T})}{(\frac{\#n_i}{\#n_T})})
其中,py_i为这个组中响应客户(风险模型中为违约客户,正样本)的,占总体正样本的比例,pn_i为负样本所占比例,\#y_i为该分组中正样本数量,\#n_i为该组负样本数量,\#y_T,\#n_T代表总体样本中的正负样本数量,WOE实际代表该分组中的正负样本比例的差异,值越大,差异越大,该分组越能区分正负样本。第i组的IV 值为:
IV_i=(py_i-pn_i)*WOE_i
整个变量的IV值为(n个分组IV_i值得嘉和):
IV=\sum_{i}^{n}IV_i

特征信息值(IV) 预测能力
<0.03 无预测能力
0.03~0.09
0.1~0.29
0.3~0.49
0.5~ 极高

2.特征筛选
选择IV值高,PSI值低,覆盖率高的特征入模。

5.模型开发

1.模型拟合
常用lr逻辑回归模型进行分类。
2.step-wise模型优化
根据p值筛选模型变量,原假设(变量不重要,与目标变量无光),在此假设基础上计算chi-square,若chi-square值大,则p值小,p值<0.01说明变量很重要。

6.模型评估

        模型拟合之后,需要评估模型的好坏。好的模型一般要有以下三个基本要求:
1.精确性。模型在预测时,要有一定的精确性;2.稳健性。模型必须对从总体样本中抽取的所有样本都有效;3.有意义
以下介绍几个常用的评价指标:
1.混淆矩阵
2.KS曲线
3.AUC曲线
4.ROC指标
5.Gini系数
6.Lift-chart提升图

7.生成评分卡

        一个事件发生的几率(Odds),是指该事件发生的概率与该事件不发生概率的比值。若一个客户违约概率为p,则其正常的概率为1-p,由此可得:
Odds=\frac{p}{1-p}
此时,客户违约的概率p可以表示为:
p=\frac{Odds}{1+Odds}
评分卡表达式为:
Score=A-B\log(Odds)
其中A、B为常数。由于log函数在(0→+∞)单调递增,所以当用户违约几率Odds越大时,Score评分越低。通过给定 :
(1)某特定Odds时的Score值S0;
(2)该特定Odds值翻倍时Score增加值PD0;
通过给定值S0与PD0带入评分卡表达式,可求得A、B。

(未完待续。。。)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,271评论 5 466
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,725评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,252评论 0 328
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,634评论 1 270
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,549评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 47,985评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,471评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,128评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,257评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,233评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,235评论 1 328
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,940评论 3 316
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,528评论 3 302
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,623评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,858评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,245评论 2 344
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,790评论 2 339

推荐阅读更多精彩内容