机器学习信贷逾期检测模型研究

中国论文网 发表于2021-11-12 17:29:46 归属于信贷论文 本文已影响118 我要投稿 手机版

       

  摘要:基于某信贷机构历史业务原始数据,经过数据预处理后,分别建立决策树、逻辑斯蒂、BP神经网络和随机森林预测模型,得到的准确率不超过90%。再对原始数据进行特征分箱后,通过XGBoost算法建立模型,准确率提高为91.2%。最后,基于Cook距离的多元模型检测到的离群点与逾期客户有显著关系,模型准确率为96.7%,召回率为99.3%。

  关键词:逾期检测;特征分箱;机器学习;Cook距离

  1引言

  随着互联网金融行业的兴起,银行和贷款机构通过互联网为有贷款需求的客户提供线上金融服务。在带来更好服务体验的同时,也存在着诸多信用风险问题,急需建立信贷风险检测模型提高风控水平。根据信贷客户还款的具体情况,将客户分为正常和逾期两种类型。以三个月的时间作为观察窗口,还款连续逾期三个月的,判定为逾期客户;其余正常还款情况的,为正常客户。通过采用机器学习和统计方法得出的信用检测模型,能够较为准确地预测个人未来的信用表现,估计每笔信贷是否逾期,方便银行提前预知可能存在的风险。

  2数据预处理

  分析来自某贷款机构的历史业务数据,包含贷款基本表、报告主表、贷款记录、贷记卡记录、信用提示、未销户贷记卡和未结清贷款信息汇总、逾期信息汇总、查询记录汇总、信贷审批查询记录明细、贷款特殊交易、透支记录、诈骗记录等12个数据集,涉及3万名客户和100多个特征,数据预处理较复杂,需尽量减少信息损失。为了获得更好的训练数据特征,通过特征工程将原始数据转换成模型训练数据,使得机器学习模型逼近这个上限,提高模型性能。主要运用了特征构建和特征选择。例如针对“数据集:信贷审批查询记录明细表”,利用日期函数计算查询间隔月份数,通过总查询次数除以查询间隔月份数构建出新属性“月查询次数”。例如针对“数据集:贷款记录”,由ID将贷款状态拆分成“呆账、结清和正常”三类属性的数据。最终从100多个指标中初步构建了42个特征。接着,利用R语言“informationvalue”函数计算各定性指标的IV值,选择有高预测性能的前两个显著特征“工资”和“教育”;再通过广义交叉验证法得到10个显著性指标,主要包括信用状况、偿还历史和逾期行为3个维度的指标,结合Boruta算法得出变量对逾期状态影响的显著性,根据变量间相关性图和现实意义,筛选出“信用使用年限”和“贷款账户数”;最终,经过定性指标和定量指标的筛选,从42个初选特征中选择了重要程度前14的特征。特征选择结果如表1所示。处理完缺失值后,采用无放回随机抽样方式,将总体以7∶3的比例拆分成训练集和测试集,数据基本情况如表2所示。

  3初步建立逾期检测模型

  分别通过“gbm”函数建立决策树逾期检测模型(GBDT)、“glm”函数建立逻辑斯蒂回归模型,并通过逐步回归剔除非显著变量、“nnet”包所得BP神经网络模型、“randomForest”函数建立随机森林逾期检测模型,结果如表3所示。四种模型的AUC值均低于0.8,预测准确性不是很高,离想要检测逾期客户的目标还有一定差距。其中表现较好的模型为逻辑斯蒂和BP神经网络,AUC值为0.71。

  4特征分箱

  通过特征分箱离散化连续变量,同时将离散变量合并成少状态。经特征分箱后的数据,具有更易于模型快速迭代和降低模型过拟合风险等优势。基于“smbinning”包对各特征进行最优分段,通过分段结果对数据进行封闭性分箱和转换,如特征“信用使用年限”的分段结果如表4所示。

  5逾期检测模型探索和优化

  5.1基于XGBoost的集成学习模型

  前面几种机器学习模型的预测精度相对不高,尝试基于XGBoost算法的集成学习模型以提高预测模型的精度。同时,将分别对原数据和特征分箱变换后的数据进行预测,以观察特征分箱是否提升了模型的表达能力和拟合度。XGBoost模型结果如表5所示。通过R语言“xgboost”函数建立模型,经参数调试后对原数据进行预测,得到预测准确率为84.5%,召回率为37%,AUC值为0.72。对特征分箱后数据进行预测,预测准确率为91.2%,召回率为52.7%,AUC值为0.82。将“xgboost”函数的目标设为逻辑斯蒂模型,由于逻辑斯蒂为广义线性模型,表达能力有限,而特征分箱后每个变量有了权重,即引入了非线性到模型中,显著提升了模型的表达能力和拟合效果。

  5.2基于CooK距离的多元模型

  通过统计学方法分析得到离群点,观察离群点与逾期客户是否有显著的关系。一般如果观测样本的Cook距离比平均距离大4倍,则该数据点被判定为离群点。通过Cook平均距离的4和24倍分别进行离群值检测,其中显著离群点和全部离群点如图1所示。经匹配样本号发现,基于Cook距离的多元模型检测法所得出的离群点基本为逾期客户,该模型表现出了较高的检测准确率和召回率。当Cook距离为4倍时,99.3%的逾期客户被检测出来,而此时模型的准确率仍非常高,为96.7%。具体如表6所示。

  6结论

  进行分析的目的是检测出可能存在逾期行为的客户,基于这个业务背景,主要从模型的准确率、召回率和AUC值来评价模型的优劣。四种机器学习模型的AUC值均低于0.8,预测准确性不是很高。模型优化上,通过XGBoost集成学习模型对原数据和分箱后数据分别建立模型,AUC分别提高到0.72和0.82,说明集成学习模型和特征分箱均有优势,且经特征分箱后的XGBoost模型预测准确率达到91.2%,召回率达到51.7%,模型有很好的预测效果。模型探索上,由于逾期客户均在数据的某些特征取值上较为极端,故通过统计学方法,基于Cook距离的多元模型检测出来的离群点,与逾期客户有着显著的关系。当Cook距离为4倍时,99.3%的逾期客户被检测出来,而此时模型的准确率仍非常高,为96.7%,该模型表现出了非常高的分类效果。

  参考文献:

  [1]中国人民征信中心.个人征信系统新版信用报告概述[DB/OL].[2021-04-15]paper/94313836.html.

  [2]高祖康.基于数据挖掘的商业银行贷款信用评级[D].南京:南京理工大学,2013.

  [3]何晓群.多元统计分析[M].4版.北京:中国人民大学出版社,2004.

  [4]董媛香,程鑫.大数据背景下个人信用评价体系构建[J].现代工业经济和信息化,2017,7(5):106-108.

  [5]石澄贤,陈雪交.P2P网贷个人信用评价指标体系的构建[J].常州大学学报(社会科学版),2016,17(1):80-85.

  [6]李佳.网络银行个人客户信用风险评价研究[J].中国市场,2016(14):91-92.

  [7]刘扬,刘伟江.特征选择方法在信用评估指标选取中的应用[J].数理统计与管理,2006(6):667-674.

  [8]张道宏,张璇,尹成果.基于BP神经网络的个人信用评估模型[J].情报杂志,2006,25(3):68-70.

  [9]张国政,陈维煌,刘呈辉.基于logistic模型的商业银行个人消费信贷风险评估研究[J].金融理论与实践,2015(3):53-57.

  作者:侯浩鑫 赵志红 单位:北京理工大学珠海学院

返回信贷论文列表
展开剩余(