python 評分卡模型

本文目錄一覽：

• 1、python評分卡之LR及混淆矩陣、ROC

• 2、銀行數據倉庫體系實踐（18）–數據應用之信用風險建模

• 3、數據挖掘技術在信用卡業務中的應用案例

python評分卡之LR及混淆矩陣、ROC

import pandas as pd

import numpy as np

from sklearn import linear_model

# 讀取數據

sports = pd.read_csv(r'C:\Users\Administrator\Desktop\Run or Walk.csv')

# 提取出所有自變量名稱

predictors = sports.columns[4:]

# 構建自變量矩陣

X = sports.ix[:,predictors]

# 提取y變量值

y = sports.activity

# 將數據集拆分為訓練集和測試集

X_train, X_test, y_train, y_test = model_selection.train_test_split(X, y, test_size = 0.25, random_state = 1234)

# 利用訓練集建模

sklearn_logistic = linear_model.LogisticRegression()

sklearn_logistic.fit(X_train, y_train)

# 返回模型的各個參數

print(sklearn_logistic.intercept_, sklearn_logistic.coef_)

# 模型預測

sklearn_predict = sklearn_logistic.predict(X_test)

# 預測結果統計

pd.Series(sklearn_predict).value_counts()

——————————————————————————————————————————————-

# 導入第三方模塊

from sklearn import metrics

# 混淆矩陣

cm = metrics.confusion_matrix(y_test, sklearn_predict, labels = [0,1])

cm

Accuracy = metrics.scorer.accuracy_score(y_test, sklearn_predict)

Sensitivity = metrics.scorer.recall_score(y_test, sklearn_predict)

Specificity = metrics.scorer.recall_score(y_test, sklearn_predict, pos_label=0)

print('模型準確率為%.2f%%:' %(Accuracy*100))

print('正例覆蓋率為%.2f%%' %(Sensitivity*100))

print('負例覆蓋率為%.2f%%' %(Specificity*100))

——————————————————————————————————————————————-

# 混淆矩陣的可視化

# 導入第三方模塊

import seaborn as sns

import matplotlib.pyplot as plt

# 繪製熱力圖

sns.heatmap(cm, annot = True, fmt = '.2e',cmap = 'GnBu')

plt.show()

——————————————————————————————————————————————

# 繪製ROC曲線

# 計算真正率和假正率

fpr,tpr,threshold = metrics.roc_curve(y_test, sm_y_probability)

# 計算auc的值

roc_auc = metrics.auc(fpr,tpr)

# 繪製面積圖

plt.stackplot(fpr, tpr, color='steelblue', alpha = 0.5, edgecolor = 'black')

# 添加邊際線

plt.plot(fpr, tpr, color='black', lw = 1)

# 添加對角線

plt.plot([0,1],[0,1], color = 'red', linestyle = '–')

# 添加文本信息

plt.text(0.5,0.3,'ROC curve (area = %0.2f)' % roc_auc)

# 添加x軸與y軸標籤

plt.xlabel('1-Specificity')

plt.ylabel('Sensitivity')

plt.show()

——————————————————————————————————————————————-

#ks曲線 鏈接： 風控數據分析學習筆記（二）Python建立信用評分卡 –

fig, ax = plt.subplots()

ax.plot(1 – threshold, tpr, label='tpr')# ks曲線要按照預測概率降序排列，所以需要1-threshold鏡像

ax.plot(1 – threshold, fpr, label='fpr')

ax.plot(1 – threshold, tpr-fpr,label='KS')

plt.xlabel('score')

plt.title('KS Curve')

plt.ylim([0.0, 1.0])

plt.figure(figsize=(20,20))

legend = ax.legend(loc='upper left')

plt.show()

銀行數據倉庫體系實踐（18）–數據應用之信用風險建模

信用風險

銀行的經營風險的機構，那在第15節也提到了巴塞爾新資本協議對於銀行風險的計量和監管要求，其中信用風險是銀行經營的主要風險之一，它的管理好壞直接影響到銀行的經營利潤和穩定經營。信用風險是指交易對手未能履行約定契約中的義務而給銀行造成經濟損失的風險。典型的表現形式包括借款人發生違約或信用等級下降。借款人因各種原因未能及時、足額償還債務/銀行貸款、未能履行合同義務而發生違約時，債權人或銀行必將因為未能得到預期的收益而承擔財務上的損失。

那如何來表示某個交易對手的信用情況呢，一般使用信用等級或信用評分來來表示，等級越低或評分越低，發生違約的概率會增加。這個信用評分主要應用在客戶的貸前和貸後管理中，貸前是指客戶貸款申請階段，銀行受理客戶貸款申請時會根據客戶提交的信息、人行徵信、其它數據源按一定的規則計算出一個違約概率和風險評分或信用等級。再根據這個評分或評級來確定客戶的授信額度和利率。計算出的評分或評級越高，違約概率越低，比如在進行個人貸前評分時主要關注以下5方面：

（1）People：貸款人狀況，包括歷史還款表現、當前負債情況、資金饑渴度等；

（2）Payment：還款來源，如基本收入、資產水平、月收支負債比、無擔保總負債等；

（3）Purpose：資金用途，如消費、買房，需要規避貸款資金用於投資或投機性質較高領域，如股票和數字貨幣；

（4）Protection：債權確保，主要是看是否有抵押物或擔保，需要看抵押物用途、質量、價格等關鍵要素；

（5）Perspective：借款戶展望，從地域、行業、人生階段等考察穩定性及潛力；

貸後是指客戶借款後銀行持續跟進客戶的信用情況，如果發現信用評分降低或者某些指標達到風險預警指標的閾值，說明風險升高，則會進行凍結額度甚至提前進行貸款收回。特別是對於逾期客戶。

風險建模步驟

在進行信用評估時如何選擇客戶屬性、如何確定評分或評級規則呢？這就需要進行風險建模，通過分析歷史數據來確定哪些特徵或指標對客戶的違約相關性大，可以了解客戶的還款能力以及還款意願。並通過一定方法來建立評分和評級的規則。那風險建模主要分為以下步驟：

（1）業務理解：主要評估當前現狀、確定業務目標，選擇建模方法，比如需要進行XX貸款產品的貸前評分模型並確定準入規則，建模方式比如為評分卡，評分應用為基於評分確定貸款准入規則以及額度和利率規則，同時需要確定分析數據的好客戶和壞客戶標準，如逾期90天以上為壞客戶；

（2）數據理解：首先需要準備建模的樣本數據，如抽取近2年的獲得類似產品的客戶相關信息以及根據好客戶和壞客戶標準確定的結果。並針對業務數據進行業務含義理解、對數據進行收集、探索，了解每個變量的數據質量、缺失情況，數據分布等。比如對於客戶在人行的徵信數據、客戶在銀行的存款、理財等信息、以及客戶申請填寫的家庭、房產信息、外部獲得的客戶教育、司法等相關信息進行業務理解和數據分布、質量的探索，對缺失值比例過大的變量或準確性不高的變量進行剔除，同時也要確定對於樣本數據中哪些數據進行建模，哪些數據進行驗證。

（3）數據準備：主要對數據進行預處理和指標加工，指標加工指基於基礎數據進行指標加工，如最近1個月的徵信查詢次數，最近1年的逾期次數等，數據預處理主要工作包括對每一個變量進行數據清洗、缺失值處理、異常值處理、數據標準化等，主要目的是將獲取的原始數據轉變成可用於建模的結構化數據。

比如對於連續變量，就是要尋找合適的切割點把變量分為幾個區間段以使其具有最強的預測能力，也稱為“分箱”。例如客戶年齡就是連續變量，在這一步就是要研究分成幾組、每組切割點在哪裡預測能力是最強的。分箱的方法有等寬、等頻、聚類（k-means）、卡方分箱法、單變量決策樹算法（ID3、C4.5、CART）、IV最大化分箱法、best-ks分箱法等。如果是離散變量，每個變量值都有一定的預測能力，但是考慮到可能幾個變量值有相近的預測能力，因此也需要進行分組。

通過對變量的分割、分組和合併轉換，分析每個變量對於結果的相關性，剔除掉預測能力較弱的變量，篩選出符合實際業務需求、具有較強預測能力的變量。檢測變量預測能力的方法有：WOE(weight of Evidence) 、IV(informationvalue)等。

（4）分析建模：即對於篩選出來的變量以及完成好壞定義的樣本結果。放入模型進行擬合。如評分卡一般採用常見的邏輯回歸的模型，PYTHON、SAS、R都有相關的函數實現模型擬合。以下是生成的評分卡的例子。

（5）評估及報告：即通過驗證樣本對模型的預測進行校驗。評估模型的準確性和穩健性，並得出分析報告。常用的方法有ROC曲線、lift提升指數、KS(Kolmogorov-Smirnov)曲線、GINI係數等。

（6）應用：對模型進行實際部署和應用，如基於評分進行客戶准入和產生額度，並在貸款系統進行模型部署，自動對申請客戶進行評分。

（7）監測：建立多種報表對模型的有效性、穩定性進行監測，如穩定性監控報表來比較新申請客戶與開發樣本客戶的分值分布，不良貸款分析報表來評估不同分數段的不良貸款，並且與開發時的預測進行比較，監控客戶信貸質量。隨着時間的推移和環境變化，評分模型的預測力會減弱，所以需要持續監控並進行適當調整或重建。

在信用風險建模中，目前評分卡建模還是主要的方式，除了申請評分（A卡（Application score card））還有B卡（Behavior score card）行為評分卡、C卡（Collection score card）催收評分卡。B卡主要進行客戶貸後管理，如何進行風險預警，C卡進行催收管理，確定如何催收以及催收方式和時間點。信用風險模型中還有一個是反欺詐模型，它主要是識別假冒身份、虛假信息、批量薅羊毛等欺詐行為。隨着機器學習和大數據的發展，其它的一些建模方式如決策樹、深度神經網絡也越來越多的應用到了風險建模中。

信用風險模型是數據倉庫支持的重要數據應用之一，在風險建模分析階段，數據倉庫是建模樣本數據以及衍生指標加工的主要提供者，業務人員一般在自助分析平台進行數據分析和建模，模型建立完成並部署後，會基於數據倉庫數據進行模型效果的監控。在貸後管理中，風險集市也會進行貸後指標的加工。另外風險模型以及預警中會經常使用到外部數據，這部分數據也是通過數據倉庫進行對接、加工和存儲。

數據挖掘技術在信用卡業務中的應用案例

數據挖掘技術在信用卡業務中的應用案例

信用卡業務具有透支筆數巨大、單筆金額小的特點，這使得數據挖掘技術在信用卡業務中的應用成為必然。國外信用卡發卡機構已經廣泛應用數據挖掘技術促進信用卡業務的發展，實現全面的績效管理。我國自1985年發行第一張信用卡以來，信用卡業務得到了長足的發展，積累了巨量的數據，數據挖掘在信用卡業務中的重要性日益顯現。

一、數據挖掘技術在信用卡業務中的應用數據挖掘技術在信用卡業務中的應用主要有分析型客戶關係管理、風險管理和運營管理。

1.分析型CRM

分析型CRM應用包括市場細分、客戶獲取、交叉銷售和客戶流失。信用卡分析人員搜集和處理大量數據，對這些數據進行分析，發現其數據模式及特徵，分析某個客戶群體的特性、消費習慣、消費傾向和消費需求，進而推斷出相應消費群體下一步的消費行為，然後以此為基礎，對所識別出來的消費群體進行特定產品的主動營銷。這與傳統的不區分消費者對象特徵的大規模營銷手段相比，大大節省了營銷成本，提高了營銷效果，從而能為銀行帶來更多的利潤。對客戶採用何種營銷方式是根據響應模型預測得出的客戶購買概率做出的，對響應概率高的客戶採用更為主動、人性化的營銷方式，如電話營銷、上門營銷；對響應概率較低的客戶可選用成本較低的電子郵件和信件營銷方式。除獲取新客戶外，維護已有優質客戶的忠誠度也很重要，因為留住一個原有客戶的成本要遠遠低於開發一個新客戶的成本。在客戶關係管理中，通過數據挖掘技術，找到流失客戶的特徵，並發現其流失規律，就可以在那些具有相似特徵的持卡人還未流失之前，對其進行有針對性的彌補，使得優質客戶能為銀行持續創造價值。

2.風險管理

數據挖掘在信用卡業務中的另一個重要應用就是風險管理。在風險管理中運用數據挖掘技術可建立各類信用評分模型。模型類型主要有三種：申請信用卡評分卡、行為信用評分卡和催收信用評分卡，分別為信用卡業務提供事前、事中、和事後的信用風險控制。

申請評分模型專門用於對新申請客戶的信用評估，它應用於信用卡徵信審核階段，通過申請人填寫的有關個人信息，即可有效、快速地辨別和劃分客戶質量，決定是否審批通過並對審批通過的申請人核定初始信用額度，幫助發卡行從源頭上控制風險。申請評分模型不依賴於人們的主觀判斷或經驗，有利於發卡行推行統一規範的授信政策。行為評分模型是針對已有持卡人，通過對持卡客戶的行為進行監控和預測，從而評估持卡客戶的信用風險，並根據模型結果，智能化地決定是否調整客戶信用額度，在授權時決定是否授權通過，到期換卡時是否進行續卡操作，對可能出現的使其提前進行預警。催收評分模型是申請評分模型和行為評分模型的補充，是在持卡人產生了逾期或壞賬的情況下建立的。催收評分卡被用於預測和評估對某一筆壞賬所採取措施的有效性，諸如客戶對警告信件反應的可能性。這樣，發卡行就可以根據模型的預測，對不同程度的逾期客戶採取相應措施進行處理。以上三種評分模型在建立時，所利用的數據主要是人口統計學數據和行為數據。人口統計學數據包括年齡、性別、婚姻狀況、教育背景、家庭成員特點、住房情況、職業、職稱、收入狀況等。行為數據包括持卡人在過去使用信用卡的表現信息，如使用頻率、金額、還款情況等。由此可見，數據挖掘技術的使用，可以使銀行有效地建立起事前、事中到事後的信用風險控制體系。

3.運營管理

雖然數據挖掘在信用卡運營管理領域的應用不是最重要的，但它已為國外多家發卡公司在提高生產效率、優化流程、預測資金和服務需求、提供服務次序等問題的分析上取得了較大成績。

二、常用的數據挖掘方法

上述數據挖掘技術在信用卡領域的應用中，有很多工具可用於開發預測和描述模型。有些用統計方法，如線性回歸和邏輯回歸；有些有非統計或混合方法，如神經網絡、遺傳算法、決策樹及回歸樹。這裡僅討論幾種常見的典型方法。

1.線性回歸

簡單線性回歸分析是量化兩個連續變量之間關係的一種統計技術。這兩個變量分別是因變量(預測變量)。使用這一方法，可以發現一條穿過數據的線，線上的點使對應數據點的方差最小。為市場營銷、風險和客戶關係管理建立模型時，通常有多個自變量，用多個獨立自變量來預測一個連續變量稱為多元線性回歸，用線性回歸方法建立的模型通常具有魯棒性。

2.邏輯回歸

邏輯回歸是使用最廣泛的建模技術，與線性回歸很相似。兩者的主要區別在於邏輯回歸的因變量(想預測變量)不是連續的，而是離散的或者類型變量。如申請評分模型可運用邏輯回歸方法，選取關鍵變量確定回歸係數。以申請者的關鍵變量x1,x2,…xm為自變量，以y=[1 申請者是壞客戶；0 申請者是好客戶，為因變量，則對於二分類因變量，一般假設客戶變壞的概率為 p(y=1)=eβ0 β1×1 … βmxm/1 eβ0 β1×1 … βmxm式中，β0，β1…，βm是常數，即1n(p/1-p)=β0 β1×1 … βmxm

3.神經網絡

神經網絡處理和回歸處理大不相同，它不依照任何概率分布，而是模仿人腦功能，可以認為它是從每一次經驗中提取並學習信息。神經網絡系統由一系列類似於人腦神經元一樣的節點組成，這些節點通過網絡彼此互連。如果有數據輸入，它們便可以進行確定數據模式的工作。神經網絡由相互連接的輸入層、中間層(或隱藏層)、輸出層組成。中間層由多個節點組成，完成大部分網絡工作。輸出層輸出數據分析的執行結果。

4.遺傳算法

與神經元網絡類似，遺傳算法也不遵循任何概率分布，是源自“適者生存”的進化過程。它首先將問題的可能解按某種形式進行編碼，編碼後的解稱為染色體。隨機選取n個染色體作為初始種群，再根據預定的評價函數對每個染色體計算適應值，性能較好的染色體有較高的適應值。選擇適應值較高的染色體進行複製，並通過遺傳算子產生一群新的更適應環境的染色體，形成新的種群，直至最後收斂到一個最適應環境的個體，得到問題的最優化解。

5.決策樹

決策樹的目標是逐步將數據分類到不同的組或分支中，在因變量的值上建立最強劃分。由於分類規則比較直觀，所以易於理解。圖1為客戶響應的決策樹，從中很容易識別出響應率最高的組。

三、實例分析

以下以邏輯回歸方法建立信用卡申請評分模型為例，說明數據挖掘技術在信用卡業務中的應用。申請評分模型設計可分為7個基本步驟。

1.定義好客戶和壞客戶的標準

好客戶和壞客戶的標準根據適合管理的需要定義。按照國外的經驗，建立一個預測客戶好壞的風險模型所需的好、壞樣本至少各要有1000個左右。為了規避風險，同時考慮到信用卡市場初期，銀行的效益來源主要是銷售商的傭金、信用卡利息、手續費收入和資金的運作利差。因此，一般銀行把降低客戶的逾期率作為一個主要的管理目標。比如，將壞客戶定義為出現過逾期60天以上的客戶；將壞客戶定義為出現過逾期60天以上的客戶；將好客戶定義為沒有30天以上逾期且當前沒有逾期的客戶。

一般來講，在同一樣本空間內，好客戶的數量要遠遠大於坏客戶的數量。為了保證模型具有較高的識別壞客戶的能力，取好、壞客戶樣本數比率為1：1。

2.確定樣本空間

樣本空間的確定要考慮樣本是否具有代表性。一個客戶是好客戶，表明持卡人在一段觀察期內用卡表現良好；而一個客戶只要出現過“壞”的記錄，就把他認定為壞客戶。所以，一般好客戶的觀察期要比壞客戶長一些、好、壞客戶可以選擇在不同的時間段，即不同的樣本空間內。比如，好客戶的樣本空間為2003年11月-2003年12月的申請人，壞客戶的樣本空間為2003年11月-2004年5月的申請人，這樣既能保證好客戶的表現期較長，又能保證有足夠數量的壞客戶樣本。當然，抽樣的好、壞客戶都應具有代表性。

3.數據來源

在美國，有統一的信用局對個人信用進行評分，通常被稱為“FICO評分”。美國的銀行、信用卡公司和金融機構在對客戶進行信用風險分析時，可以利用信用局對個人的數據報告。在我國，由於徵信系統還不完善，建模數據主要來自申請表。隨着我國全國性徵信系統的逐步完善，未來建模的一部分數據可以從徵信機構收集到。

4.數據整理

大量取樣的數據要真正最後進入模型，必須經過數據整理。在數據處理時應注意檢查數據的邏輯性、區分“數據缺失”和“0”、根據邏輯推斷某些值、尋找反常數據、評估是否真實。可以通過求最小值、最大值和平均值的方法，初步驗證抽樣數據是否隨機、是否具有代表性。

5.變量選擇

變量選擇要同時具有數學統計的正確性和信用卡實際業務的解釋力。Logistic回歸方法是儘可能準確找到能夠預測因變量的自變量，並給予各自變量一定權重。若自變量數量太少，擬合的效果不好，不能很好地預測因變量的情況；若自變量太多，會形成過分擬合，預測因變量的效果同樣不好。所以應減少一些自變量，如用虛擬變量表示不能量化的變量、用單變量和決策樹分析篩選變量。與因變量相關性差不多的自變量可以歸為一類，如地區對客戶變壞概率的影響，假設廣東和福建兩省對壞客戶的相關性分別為-0.381和-0.380，可將這兩個地區歸為一類，另外，可以根據申請表上的信息構造一些自變量，比如結合申請表上“婚姻狀況”和“撫養子女”，根據經驗和常識結合這兩個字段，構造新變量“已婚有子女”，進入模型分析這個變量是不真正具有統計預測性。

6.模型建立

藉助SAS9軟件，用逐步回歸法對變量進行篩選。這裡設計了一種算法，分為6個步驟。

步驟1：求得多變量相關矩陣(若是虛擬變量，則＞0.5屬於比較相關；若是一般變量，則＞0.7-0.8屬於比較相關)。

步驟2：旋轉主成分分析(一般變量要求＞0.8屬於比較相關；虛擬變量要求＞0.6-0.7屬於比較相關)。

步驟3：在第一主成分和第二主成分分別找出15個變量，共30個變量。

步驟4：計算所有30個變量對好/壞的相關性，找出相關性大的變量加入步驟3得出的變量。

步驟5：計算VIF。若VIF數值比較大，查看步驟1中的相關矩陣，並分別分析這兩個變量對模型的作用，剔除相關性較小的一個。

步驟6：循環步驟4和步驟5，直到找到所有變量，且達到多變量相關矩陣相關性很而單個變量對模型貢獻作用大。

7.模型驗證

在收集數據時，把所有整理好的數據分為用於建立模型的建模樣本和用於模型驗證的對照樣本。對照樣本用於對模型總體預測性、穩定性進行驗證。申請評分模型的模型檢驗指標包括K-S值、ROC、AR等指標。雖然受到數據不幹凈等客觀因素的影響，本例申請評分模型的K-S值已經超過0.4，達到了可以使用的水平。

四、數據挖掘在國內信用卡市場的發展前景

在國外，信用卡業務信息化程度較高，數據庫中保留了大量的數量資源，運用數據技術建立的各類模型在信用卡業務中的實施非常成功。目前國內信用卡發卡銀行首先利用數據挖掘建立申請評分模型，作為在信用卡業務中應用的第一步，不少發卡銀行已經用自己的歷史數據建立了客戶化的申請評分模型。總體而言，數據挖掘在我國信用卡業務中的應用處於數據質量問題，難於構建業務模型。

隨着國內各家發卡銀行已經建立或着手建立數據倉庫，將不同操作源的數據存放到一個集中的環境中，並且進行適當的清洗和轉換。這為數據挖掘提供了一個很好的操作平台，將給數據挖掘帶來各種便利和功能。人民銀行的個人徵信系統也已上線，在全國範圍內形成了個人信用數據的集中。在內部環境和外部環境不斷改善的基礎上，數據挖掘技術在信用卡業務中將具有越來越廣闊的應用前景。