基于weka平臺(tái)的個(gè)人信用評(píng)級(jí)模型設(shè)計(jì)與實(shí)現(xiàn)

基于weka平臺(tái)的個(gè)人信用評(píng)級(jí)模型設(shè)計(jì)與實(shí)現(xiàn)目錄TOC\o"1-3"\h\u24973第一章概論3128211.1課題背景3143841.2實(shí)驗(yàn)?zāi)康?231581.3問題與挑戰(zhàn)317105第二章數(shù)據(jù)準(zhǔn)備與預(yù)處理454832.1數(shù)據(jù)采集4202382.2數(shù)據(jù)預(yù)處理4206102.2.1數(shù)據(jù)清理4145912.2.2數(shù)據(jù)變換54400第三章建立模型與分類實(shí)現(xiàn)628393.1貝葉斯分類方法6121933.2基于決策樹的方法7323063.3支持向量機(jī)方法817695第四章模型評(píng)估與比擬10253214.1預(yù)測(cè)精確度及效率比擬10211294.1.1預(yù)測(cè)精度比擬1016944.1.2效率比擬1019724.2模型應(yīng)用分析與限制11312034.2.1個(gè)人信用評(píng)估模型應(yīng)用分析1168324.2.2個(gè)人信用評(píng)估模型應(yīng)用限制122860第五章后記14220795.1任務(wù)分配1481655.2個(gè)人收獲14基于weka平臺(tái)的個(gè)人信用評(píng)級(jí)模型設(shè)計(jì)與實(shí)現(xiàn)第一章概論1.1課題背景隨著改革開放步伐的加快，世界經(jīng)濟(jì)全球化的融合，越來越多的中小型企業(yè)在機(jī)遇和挑戰(zhàn)的夾縫中艱難求存，越來越多的工薪族在面對(duì)價(jià)格不斷上漲的房子面前望而卻步，貧富差距增加，貧困人口想要改變現(xiàn)狀步履艱難。在這種狀況下，貸款融資成為一個(gè)走向成功的突破口。然而，曾經(jīng)普通人想要向貸款不啻于上青天。首先，大的國(guó)有銀行通常只效勞大客戶，商業(yè)貸款動(dòng)輒上百上千萬，對(duì)于中小型企業(yè)和個(gè)人，因?yàn)轱L(fēng)險(xiǎn)大，收益少，通常不在其考慮之列。其次，中小型城市迅速開展，但是城市底層，農(nóng)村鄉(xiāng)鎮(zhèn)等地方，銀行深入不到。最后，民間貸款〔高利貸〕現(xiàn)象紛亂，擾亂市場(chǎng)秩序。至此，許多小額貸款公司應(yīng)運(yùn)而生，某些大企業(yè)，諸如阿里等大型企業(yè)也開始將目光放注于這土地，紛紛開啟小額貸款。小額貸款〔MicroCredit〕是以個(gè)人或家庭為核心的經(jīng)營(yíng)類貸款，其主要的效勞對(duì)象為廣闊工商個(gè)體戶、小作坊、小業(yè)主。貸款的金額一般為1000元以上，1000萬元以下。然而，無論是對(duì)個(gè)人還是對(duì)信貸公司來說，貸款都不能盲目。貸款金額的大小，是否具有歸還能力等等都是需要仔細(xì)考量的。1.2實(shí)驗(yàn)?zāi)康臑樾刨J公司建立一個(gè)信用等級(jí)評(píng)估系統(tǒng)，對(duì)貸款人的家庭狀況，個(gè)人年收入，固定資產(chǎn)估值，教育水平，有無歷史拖欠記錄等屬性進(jìn)行分析，由此來對(duì)貸款人進(jìn)行信用等級(jí)的劃分，目前將其分為A，B，C三個(gè)等級(jí)，屬于對(duì)應(yīng)信用等級(jí)的貸款人具有相應(yīng)的貸款金額上限。1.3問題與挑戰(zhàn)對(duì)目前已有的貸款人數(shù)據(jù)的婚姻狀況，個(gè)人年收入，固定資產(chǎn)估值，教育水平，有無歷史拖欠記錄等屬性在weka平臺(tái)上按等級(jí)進(jìn)行劃分，每個(gè)人的屬性都屬于不同的等級(jí)，全方位綜合的將其分類為不同信用等級(jí)，以此作為訓(xùn)練集估測(cè)出一個(gè)分類模型，對(duì)于今后需要貸款的人在此模型上進(jìn)行評(píng)估以確定該貸款人的信用等級(jí)，信貸公司可依據(jù)此等級(jí)來確定對(duì)其的貸款金額的大小。第二章數(shù)據(jù)準(zhǔn)備與預(yù)處理2.1數(shù)據(jù)采集個(gè)人客戶信用評(píng)級(jí)從婚姻、年收入、工作年限、固定資產(chǎn)估值、教育水平、拖欠記錄次數(shù)等六個(gè)方面來分析借款人的信用狀況。在實(shí)際的商業(yè)銀行環(huán)境中，并非對(duì)所有的大客戶的個(gè)人信息都有科學(xué)的管理，根據(jù)我國(guó)商業(yè)銀行的實(shí)際情況以及國(guó)外多家金融機(jī)構(gòu)的信用評(píng)級(jí)情況，評(píng)估客戶的信用情況要考慮四大主要因素：申請(qǐng)人的自然情況、職業(yè)情況、家庭情況、與銀行的業(yè)務(wù)往來關(guān)系。這四大因素實(shí)際上是對(duì)信用評(píng)級(jí)體系的一種綜合反映，具體包括以下因素：〔1〕自然情況：年齡、性別、婚姻狀況、健康狀況、文化程度、住宅類型、當(dāng)前住宅居住時(shí)間；〔2〕職業(yè)情況：?jiǎn)挝恍再|(zhì)、職業(yè)、職位、職稱、在當(dāng)前單位的工作年限、月收入；〔3〕家庭情況：家庭人均月收入、家庭債務(wù)收入比例；〔4〕與銀行的業(yè)務(wù)往來關(guān)系：賬戶、存款金額、業(yè)務(wù)往來、其他借款情況。由于實(shí)驗(yàn)時(shí)間和個(gè)人能力所限，經(jīng)小組討論后我們?cè)谒拇笾饕蛩刂羞x取了婚姻、年收入、工作年限、固定資產(chǎn)估值、教育水平、拖欠記錄次數(shù)六個(gè)屬性，其中婚姻劃分三個(gè)等級(jí)，年收入、工作年限、固定資產(chǎn)估值、教育水平、拖欠記錄次數(shù)均劃分為四個(gè)等級(jí)，總共收集300分?jǐn)?shù)據(jù)樣本。2.2數(shù)據(jù)預(yù)處理初步采集的數(shù)據(jù)很多是不完整的、有噪聲的，所以在獲取數(shù)據(jù)源后，需要進(jìn)行數(shù)據(jù)的清洗和轉(zhuǎn)換，使其符合數(shù)據(jù)挖掘算法的要求，并能夠產(chǎn)生最為可靠和準(zhǔn)確的結(jié)果。2.2.1數(shù)據(jù)清理先對(duì)數(shù)據(jù)進(jìn)行整理、對(duì)噪聲數(shù)據(jù)進(jìn)行處理，以增加數(shù)據(jù)挖掘結(jié)果的準(zhǔn)確性。〔1〕對(duì)空值的處理：空值出現(xiàn)的可能性很多，主要是由于數(shù)據(jù)采集時(shí)缺乏樣本數(shù)據(jù)產(chǎn)生。對(duì)空值的處理有很多方法，比方：最大頻數(shù)填充、平均值填充、人工隨機(jī)填充等。根據(jù)本數(shù)據(jù)樣本的具體情況我們決定采用人工隨機(jī)填充的方法?！?〕對(duì)噪聲數(shù)據(jù)的處理：可以采用分箱、聚類、回歸等。本實(shí)驗(yàn)采用分箱的方法對(duì)噪聲數(shù)據(jù)進(jìn)行處理。2.2.2數(shù)據(jù)變換在所得的原始信息中絕大局部的字段值都是字符值，為了在數(shù)據(jù)處理中，占用更小的空間和取得更快的計(jì)算速度，要把字符型的數(shù)據(jù)轉(zhuǎn)化為數(shù)值型的數(shù)據(jù)。第三章建立模型與分類實(shí)現(xiàn)3.1貝葉斯分類方法貝葉斯分類器是一個(gè)統(tǒng)計(jì)分類器。它能夠預(yù)測(cè)類別所屬的概率。如：一個(gè)數(shù)據(jù)對(duì)象屬于某個(gè)類別的概率。貝葉斯分類器是基于貝葉斯定理(以下將會(huì)介紹)而構(gòu)造出來的。對(duì)分類方法進(jìn)行比擬的有關(guān)研究結(jié)果說明：簡(jiǎn)單貝葉斯分類器(稱為根本貝葉斯分類器)在分類性能上與決策樹和神經(jīng)網(wǎng)絡(luò)都是可比的。在處理大規(guī)模數(shù)據(jù)庫時(shí)，貝葉斯分類器巴表現(xiàn)出較高的分類準(zhǔn)確性和運(yùn)算性能。設(shè)X為一個(gè)類別未知的數(shù)據(jù)樣本。H為某個(gè)假設(shè)，假設(shè)數(shù)據(jù)樣本X屬于一個(gè)特定的類別C，那么分類問題就是決定P(H|X)，即在獲得數(shù)據(jù)樣本X時(shí)，H假設(shè)成立的概率。P(H|X)是事后概率，或?yàn)榻⒃赬〔條件〕之上的H概率。例如：假設(shè)數(shù)據(jù)樣本是水果，描述水果的屬性有顏色和形狀。假設(shè)X為紅色和圓狀，H為X是一個(gè)蘋果的假設(shè)，因此P(H|X)就表示在X是紅色和圓狀時(shí)，確定X為一個(gè)蘋果的H假設(shè)成立的概率；相反P(H)為事前概率，在上述例子中，P(H)就表示任意一個(gè)數(shù)據(jù)對(duì)象，它是一個(gè)蘋果的概率，無論它是何種顏色和形狀。與P(H)相比，P(H|X)是建立在更多信息根底之上的，而前者那么與X無關(guān)。類似的，P(X|H)是建方在H根底之上的X成立概率，也就是說：假設(shè)X是一個(gè)蘋果，那它是紅色和圓狀的概率可表示為P(X|H)。由于P(X)，P(H)和P(X|H)的概率值可以從(供學(xué)習(xí)使用的)數(shù)據(jù)集合中得到，貝葉斯定理那么描述了如何根據(jù)P(X)，P(H)和P(X|H)計(jì)算獲得的P(H|X)。有關(guān)的具體公式定義描述如下：根本貝葉斯分類器(naiveBayesianclassifiers)假設(shè)一個(gè)指定類別中各屬性的取值是相互獨(dú)立的。這一假設(shè)也被稱為：類別條件獨(dú)立(classconditionalindependence)，它可以幫助有效減少在構(gòu)造貝葉斯分類器時(shí)所需要進(jìn)行的計(jì)算量。貝葉斯算法運(yùn)行結(jié)果圖：3.2基于決策樹的方法所謂決策樹就是一個(gè)類似流程圖的樹型結(jié)構(gòu)，其中樹的每個(gè)內(nèi)部結(jié)點(diǎn)代表對(duì)一個(gè)屬性的測(cè)試，其分支就代表測(cè)試的每個(gè)結(jié)果，而樹的每個(gè)葉結(jié)點(diǎn)就代表—個(gè)類別。樹的最高層結(jié)點(diǎn)就是根結(jié)點(diǎn)。決策樹的中間點(diǎn)通常用矩形表示，而葉結(jié)點(diǎn)常用橢圓表示。為了對(duì)未知數(shù)據(jù)對(duì)象進(jìn)行分類識(shí)別．可以根據(jù)決策樹的結(jié)構(gòu)對(duì)數(shù)據(jù)集中的屬性值進(jìn)行測(cè)試，從決策樹的根結(jié)點(diǎn)到葉結(jié)點(diǎn)的一條路徑就形成了對(duì)相應(yīng)對(duì)象的類別預(yù)測(cè)。決策樹可以很容易轉(zhuǎn)換為分類規(guī)那么。基于J48算法的決策樹運(yùn)行效果圖：基于J48算法的決策樹：3.3支持向量機(jī)方法支持向量機(jī)〔SupportVectorMachine，簡(jiǎn)稱為SVM〕是一種監(jiān)督式學(xué)習(xí)的方法，可廣泛地應(yīng)用于統(tǒng)計(jì)分類以及回歸分析。支持向量機(jī)屬于一般化線性分類器。這族分類器的特點(diǎn)是他們能夠同時(shí)最小化經(jīng)驗(yàn)誤差與最大化幾何邊緣區(qū)，因此支持向量機(jī)也被稱為最大邊緣區(qū)分類器。SVM的主要思想可以概括為兩點(diǎn)：⑴它是針對(duì)線性可分情況進(jìn)行分析，對(duì)于線性不可分的情況，通過使用非線性映射算法將低維輸入空間線性不可分的樣本轉(zhuǎn)化為高維特征空間使其線性可分，從而使得高維特征空間采用線性算法對(duì)樣本的非線性特征進(jìn)行線性分析成為可能；支持向量機(jī)算法的優(yōu)點(diǎn)：〔1〕SVM學(xué)習(xí)問題可以表示為凸優(yōu)化問題，因此可以利用的有效算法發(fā)現(xiàn)目標(biāo)函數(shù)的全局最小值。而其他分類方法〔如基于規(guī)那么的分類器和人工神經(jīng)網(wǎng)絡(luò)〕都采用一種基于貪心學(xué)習(xí)的策略來搜索假設(shè)空間，這種方法一般只能獲得局部最優(yōu)解。〔2〕SVM通過最大化決策邊界的邊緣來控制模型的能力。盡管如此，用戶必須提供其他參數(shù)，如使用核函數(shù)類型和引入松弛變量等?！?〕通過對(duì)數(shù)據(jù)中每個(gè)分類屬性引入一個(gè)啞變量，SVM可以應(yīng)用于分類數(shù)據(jù)?！?〕SVM一般只能用在二類問題，對(duì)于多類問題效果不好。支持向量機(jī)算法〔SVM〕運(yùn)行效果圖：第四章模型評(píng)估與比擬4.1預(yù)測(cè)精確度及效率比擬4.1.1預(yù)測(cè)精度比擬我們對(duì)模型預(yù)測(cè)準(zhǔn)確度進(jìn)行如下判斷:當(dāng)利用模型對(duì)訓(xùn)練樣本和確認(rèn)樣本中的客戶進(jìn)行分類時(shí),對(duì)各種模型的誤判率進(jìn)行比擬,誤判率越低模型的精確度越高。應(yīng)該說,在個(gè)人信用評(píng)估模型中以誤判率做為衡量標(biāo)準(zhǔn)并不是最適宜的,因?yàn)閮深愬e(cuò)誤所帶來的損失往往是不同的,當(dāng)兩類損失時(shí),以總損失最小為標(biāo)準(zhǔn)是衡量模型優(yōu)劣最適宜的評(píng)價(jià)方法。具體到實(shí)際問題中,我們應(yīng)比擬把“好〞客戶誤判為“差〞客戶和把“差〞客戶誤判為“好〞客戶的損失。本文假定兩類錯(cuò)誤所造成的損失相同,以誤判率做為標(biāo)準(zhǔn)。下列圖為三種方法同時(shí)運(yùn)行比照?qǐng)D從圖中可以看出，貝葉斯分類器、J-48樹、svm三種方法進(jìn)行分類的精確度分別為71.46%，69.95%，70.08%。貝葉斯分類器分類效果最好，為71.46%的精確度，也就是說誤判率最低，所以對(duì)于現(xiàn)有數(shù)據(jù)而言，貝葉斯分類器較為理想。比照分析來看，貝葉斯分類器基于概率的思想，在處理大規(guī)模數(shù)據(jù)庫時(shí)，貝葉斯分類器巴表現(xiàn)出較高的分類準(zhǔn)確性和運(yùn)算性能。而svm一般在兩類數(shù)據(jù)的分類處理上表現(xiàn)出很高的性能。4.1.2效率比擬貝葉斯分類器分類完成的執(zhí)行時(shí)間為0.01秒，J-48樹的執(zhí)行時(shí)間為0.06秒，svm的執(zhí)行時(shí)間為0.12秒，比照可以看出，Bayes分類器的執(zhí)行效率最高，而svm相對(duì)較差。4.2模型應(yīng)用分析與限制4.2.1個(gè)人信用評(píng)估模型應(yīng)用分析在一個(gè)個(gè)人信用評(píng)估模型建立起來之后,如何成功地實(shí)施這個(gè)模型會(huì)涉及很多問題:使用什么樣的臨界分值、是否完全依賴信用評(píng)估模型給出的分?jǐn)?shù)以及如何對(duì)評(píng)估模型給出的分?jǐn)?shù)進(jìn)行修正等等?！?〕臨界分值的選擇消費(fèi)信貸申請(qǐng)客戶的個(gè)人信用得分在什么區(qū)域內(nèi)可以被認(rèn)為是違約風(fēng)險(xiǎn)較小的客戶,從而批準(zhǔn)該申請(qǐng)人的貸款申請(qǐng),即如何確定違約客戶與履約客戶的的臨界分值問題,是需要解決的重要問題。在信用評(píng)估領(lǐng)域的根本準(zhǔn)那么之一就是信用評(píng)結(jié)果的穩(wěn)定性,也就是說信用評(píng)估值在一定時(shí)間內(nèi)要穩(wěn)定地保持在同一水平上,即使個(gè)人情況發(fā)生一些變動(dòng),信用評(píng)估值的變動(dòng)也不宜過大。也就是說,如果商業(yè)銀行目前的貸款申請(qǐng)批準(zhǔn)率為60%,那么新的個(gè)人信用評(píng)分模型的臨界分值設(shè)置的貸款申請(qǐng)批準(zhǔn)率下降或上升都是不妥的。因此,在實(shí)際操作中可以根據(jù)銀行既有的貸款申請(qǐng)批準(zhǔn)率來決定個(gè)人信用評(píng)分的臨界分值?！?〕個(gè)人信用評(píng)估值的人工修正由于我國(guó)商業(yè)銀行在建立個(gè)人信用評(píng)估模型方面尚處于起步階段,模型設(shè)計(jì)仍不夠合理,消費(fèi)信貸申請(qǐng)人的個(gè)人信息缺失情況比擬嚴(yán)重,因此在個(gè)人信用評(píng)估模型給出某客戶的信用評(píng)分后,專業(yè)的信貸審批人員可以根據(jù)己有的審批經(jīng)驗(yàn)對(duì)客戶的信用評(píng)分和放貸決策進(jìn)行修正。當(dāng)貸款審批人掌握了建立信用評(píng)估模型時(shí)所不具有的信息,如一個(gè)信用分?jǐn)?shù)很高的申請(qǐng)人被卷入到某項(xiàng)經(jīng)濟(jì)訴訟中,或信用分?jǐn)?shù)很低的申請(qǐng)人剛剛得到了一份新工作,在這種情況下,貸款審批人員可以根據(jù)實(shí)際情況對(duì)該申請(qǐng)人的信用評(píng)分進(jìn)行重新評(píng)價(jià)。另外一種情況是一個(gè)客戶按信用得分評(píng)價(jià)時(shí)會(huì)被拒絕但商業(yè)銀行仍給予放貸。例如,如果授信機(jī)構(gòu)長(zhǎng)期來看,當(dāng)?shù)卮髮W(xué)生可能是一個(gè)潛在的客戶群體,即使按目前的狀況他們的信用評(píng)分無法到達(dá)臨界分值,但貸款審批人員仍可能批準(zhǔn)其中的一局部人以期培養(yǎng)一些忠誠(chéng)客戶。第三種情況是當(dāng)貸款審批人感到申請(qǐng)人有某種不能解釋的違約傾向時(shí),他的經(jīng)驗(yàn)告訴他批準(zhǔn)該申請(qǐng)是不明智的,此時(shí)審批人會(huì)采用人工修正。一般情況下,商業(yè)銀行會(huì)給予信貸審批人員一定的人工修正權(quán)限,將個(gè)人信用評(píng)分在某個(gè)合理范圍內(nèi)進(jìn)行調(diào)整。4.2.2個(gè)人信用評(píng)估模型應(yīng)用限制雖然信用評(píng)估模型有許多優(yōu)點(diǎn),但是這些模型本身也有一些限制。首先是拒絕推論。所謂拒絕推論,即申請(qǐng)被拒絕者的數(shù)據(jù)不再納入評(píng)分系統(tǒng),導(dǎo)致樣本選取的非隨機(jī)性。只有被銀行接受了的客戶,其賬戶業(yè)績(jī)表現(xiàn)的信息(是違約還是履約)才是可知的,但這樣就忽略了被拒絕的客戶,他們的信息不會(huì)包含在構(gòu)建模型的數(shù)據(jù)庫中,因此就沒有時(shí)機(jī)來確知他們的信用價(jià)值性。因而,樣本將會(huì)是有偏的(也就是不同于一般總體),其中履約客戶的作用大大的得到了表現(xiàn)。使用這一樣本得到的信用評(píng)估模型通常將無法在完全的總體中表現(xiàn)良好,因?yàn)橛糜谫徑Ｐ偷臄?shù)據(jù)與將模型應(yīng)用到現(xiàn)實(shí)的數(shù)據(jù)存在差異。其次,對(duì)于消費(fèi)貸款中個(gè)人資信評(píng)估的指標(biāo)選取尚缺全面性,文中的指標(biāo)變量選取是結(jié)合前人研究成果和現(xiàn)實(shí)可行性提出的,由于客觀原因存在一定局限性,隨著信息數(shù)據(jù)庫完善,指標(biāo)體系也應(yīng)該根據(jù)預(yù)測(cè)效果不斷修正。還要指出本文所納入樣本集的客戶全部是己經(jīng)獲得商業(yè)銀行貸款批準(zhǔn)的,所以研究總體只是己經(jīng)獲得貸款資格的客戶的行為表現(xiàn)情況,隨著經(jīng)濟(jì)開展可以將一局部未獲得貸款資格的借款人也納入觀察集合中,或者隨著技術(shù)開展完善,可以根據(jù)獲貸款資格借款人的分布特征變化推斷出未獲得貸款資格的借款人特征變量信息,進(jìn)而研究全部潛在客戶的行為表現(xiàn)特征,可以增強(qiáng)金融機(jī)構(gòu)的管理能力和盈利能力。第三,未考慮宏觀經(jīng)濟(jì)環(huán)境因素的影響。經(jīng)濟(jì)環(huán)境的變化直接影響到商業(yè)銀行的供應(yīng)本錢,進(jìn)而影響到其利潤(rùn)水平,消費(fèi)貸款的利率也會(huì)產(chǎn)生一定的變化。同時(shí),經(jīng)濟(jì)環(huán)境的變動(dòng)也將直接影響到借款人的收入水平,進(jìn)而影響到其還款意愿以及還本付息的能力。所以,經(jīng)濟(jì)環(huán)境應(yīng)是信用評(píng)估模型中的一個(gè)重要影響因素,但因?yàn)榻?jīng)濟(jì)環(huán)境本身難以量化,而且它的影響是多方面的,因此在模型中難以表達(dá)。本文的設(shè)想是在個(gè)人信用評(píng)估模型給出消費(fèi)信貸申請(qǐng)客戶的信用評(píng)分根底上,將宏觀經(jīng)濟(jì)環(huán)境因素作為緩和因素考慮,尤其是對(duì)于完全依靠信用評(píng)分無法做出貸款決定的客戶進(jìn)行宏觀經(jīng)濟(jì)環(huán)境因素的考慮。第四,與信用體系建設(shè)較興旺的國(guó)家相比,我國(guó)作為一個(gè)開展中國(guó)家,由于法律體系、個(gè)人觀念、社會(huì)文化、經(jīng)濟(jì)狀況等方面與國(guó)外存在差異,導(dǎo)致影響個(gè)人信用評(píng)估的因素同興旺國(guó)家存在一些不同點(diǎn)(如“性別〞、“婚姻狀況〞等指標(biāo)變量)。因此