人工智能機(jī)器學(xué)習(xí)及在金融行業(yè)應(yīng)用課件

1、人工智能機(jī)器學(xué)習(xí)及在金融行業(yè)應(yīng)用 人工智能機(jī)器學(xué)習(xí)及在金融行業(yè)應(yīng)用 內(nèi)容 ?人工智能 ?機(jī)器學(xué)習(xí)AI分支 ?定義、流派 ?任務(wù) ?常見范式 ?算法介紹 ?在金融中的（潛在）應(yīng)用 ?總結(jié)：金融應(yīng)用場景 內(nèi)容 ?人工智能 ?機(jī)器學(xué)習(xí)AI分支 ?定義、流派 ?任人工智能（AI） ?1956年，達(dá)特茅斯會(huì)議 (John McCarthy, 19272011) 約翰.麥卡錫 AI 五十年留念（19562006) 什么是AI？ (Marvin Minsky, 19272016) 馬文.明斯基 - 研究如何讓計(jì)算機(jī)完成那些只有依靠人類智力才能完成的任務(wù)Mavin Minsky - 實(shí)現(xiàn)人類智能的功能，途徑并

2、不一定與人類智力相同John McCarthy - 研究提升機(jī)器解決復(fù)雜任務(wù)能力的領(lǐng)域 人工智能（AI） ?1956年，達(dá)特茅斯會(huì)議 (John AI科學(xué)的分支 計(jì)算機(jī)視覺 語音識(shí)別 基于規(guī)則的系統(tǒng) 機(jī)器學(xué)習(xí) 自然語言處理 機(jī)器人學(xué) AI科學(xué)的分支 計(jì)算機(jī)視覺 語音識(shí)別 基于規(guī)則的系統(tǒng) 機(jī)器學(xué)機(jī)器學(xué)習(xí)無處不在 機(jī)器學(xué)習(xí)無處不在 機(jī)器學(xué)習(xí) ?何為機(jī)器學(xué)習(xí)？ 機(jī)器通過算法自動(dòng)地從數(shù)據(jù)中學(xué)習(xí)知識(shí) ?兩大派別 ?AI的一個(gè)分支（計(jì)算機(jī)科學(xué)家） 關(guān)注問題，不在乎手段（統(tǒng)計(jì)、代數(shù)、邏輯、幾何） ?應(yīng)用統(tǒng)計(jì)學(xué)的分支（統(tǒng)計(jì)學(xué)家） 關(guān)注算法、不在乎實(shí)用 ?經(jīng)典統(tǒng)計(jì)學(xué)（頻率主義） 機(jī)器學(xué)習(xí) ?足夠測量，無需構(gòu)建模

3、型 ?適合小型問題（少量參數(shù)） ?可解釋 統(tǒng)計(jì)學(xué)AI分支 ?但復(fù)雜問題數(shù)據(jù)稀疏？舉例 分支 機(jī)器學(xué)習(xí) ?何為機(jī)器學(xué)習(xí)？ 機(jī)器通過算法自動(dòng)地從機(jī)器學(xué)習(xí) vs. 經(jīng)典統(tǒng)計(jì)學(xué) 欠擬合（偏差大） 過擬合（方差大） 參數(shù)優(yōu)化 目前，金融行業(yè)模型 （特別是風(fēng)險(xiǎn)控制） ?基于計(jì)量經(jīng)濟(jì)學(xué)理論 ?統(tǒng)計(jì)學(xué)為主要分析方法 機(jī)器學(xué)習(xí) vs. 經(jīng)典統(tǒng)計(jì)學(xué) 欠擬合（偏差大） 過擬合（機(jī)器學(xué)習(xí)（AI分支） ?“Machine Learning is the study of computer algorithms that improve automatically through experience. ” Tom Mi

4、tchell，1997 ?從示例（instance）中學(xué)習(xí) ?何為示例？標(biāo)簽？ ?特征工程（重要） 機(jī)器學(xué)習(xí)（AI分支） ?“Machine Learning 金融領(lǐng)域的特征舉例 ?多因子選股模型中常用的組合特征及邏輯 金融領(lǐng)域的特征舉例 ?多因子選股模型中常用的組合特征及邏輯 股票因子池 ?特征建構(gòu) ?特征抽取 ?特征選擇 股票因子池 ?特征建構(gòu) ?特征抽取 ?特征選擇 機(jī)器學(xué)習(xí)任務(wù) ? 分類、回歸問題（有標(biāo)簽）預(yù)測性 Data Supervised Semi-supervised Active Learning ? 聚類、相關(guān)性問題（無標(biāo)簽）描述性 Unsupervised 機(jī)器學(xué)習(xí)任務(wù)

5、? 分類、回歸問題（有標(biāo)簽）預(yù)測性 各種機(jī)器學(xué)習(xí)范式 ?監(jiān)督學(xué)習(xí) ?無監(jiān)督學(xué)習(xí) ?半監(jiān)督學(xué)習(xí) ?主動(dòng)學(xué)習(xí) ?遷移學(xué)習(xí) ?多任務(wù)學(xué)習(xí) ?多示例學(xué)習(xí) ?多標(biāo)記學(xué)習(xí) ?強(qiáng)化學(xué)習(xí) ?深度學(xué)習(xí) 各種機(jī)器學(xué)習(xí)范式 ?監(jiān)督學(xué)習(xí) ?無監(jiān)督學(xué)習(xí) ?半監(jiān)督學(xué)習(xí) ?監(jiān)督學(xué)習(xí)（Supervised Learning） ?兩大任務(wù) ?回歸（regression） ?分類（classification）觀察數(shù)據(jù)分為不同的類別 ?回歸（區(qū)別于統(tǒng)計(jì)學(xué)的回歸） 解決過擬合，引入正則項(xiàng) 變量相關(guān)性、非線性 懲罰回歸模型（Lasso回歸、嶺回歸等）、卡曼濾波 ?分類 準(zhǔn)確率高、預(yù)測意義大 Logistic回歸、SVM、決策、隨機(jī)森

6、林、神經(jīng)網(wǎng)絡(luò)、boosting 監(jiān)督學(xué)習(xí)（Supervised Learning） ?兩大任分類算法Logistic（對(duì)數(shù)幾率）回歸 ?廣義線性回歸（線性變換+非線性函數(shù)） ?sigmoid函數(shù) ?應(yīng)用： 垃圾郵件分類、疾病判斷 分類算法Logistic（對(duì)數(shù)幾率）回歸 ?廣義線性回歸Logistic回歸在金融中的應(yīng)用 ?信貸風(fēng)險(xiǎn)管理 ?資產(chǎn)價(jià)格變化方向的預(yù)測 Logistic回歸在金融中的應(yīng)用 ?信貸風(fēng)險(xiǎn)管理 ?資產(chǎn)價(jià)分類算法-SVM(Support Vector Machine) ?思想： 找到最佳超平面使得正負(fù)樣本間隔最大 ?采用核函數(shù)解決非線性問題（高維映射、低維內(nèi)積） ?適用于：小樣

7、本、非線性、高維度問題 ?缺點(diǎn)：數(shù)據(jù)敏感、非線性問題需選核函數(shù)、復(fù)雜度高 分類算法-SVM(Support Vector MachinSVM在金融中的應(yīng)用 ?舉例：資產(chǎn)價(jià)格變化方向的預(yù)測 線性組合 SVM分類 ?舉例：多因子選股（訓(xùn)練：因子暴露度和收益率） 1. 線性核收益分化明顯（高斯核、多項(xiàng)式核、線性核） 2. 與傳統(tǒng)多因子模型比無較大優(yōu)勢 SVM在金融中的應(yīng)用 ?舉例：資產(chǎn)價(jià)格變化方向的預(yù)測 算法介紹決策樹(Decision Tree) 冷血 表皮 體溫 恒溫 非爬行類動(dòng)物 鱗片 爬行類動(dòng)物 非爬行類動(dòng)物 ?非企業(yè)投資決策技術(shù) ?用于：分類和預(yù)測 ?方法：尋找最優(yōu)變量和分裂閾值（Gini

8、系數(shù)、熵），最小化損失函數(shù) ?特點(diǎn)：邏輯簡單、魯棒性差、可集合其他模型 ？算法介紹決策樹(Decision Tree) 決策樹在金融中的應(yīng)用 ?舉例：決策樹選股 因子暴露度與個(gè)股收益率存在非線性關(guān)系 選用：動(dòng)量（Mom）、波動(dòng)率（Vol），市盈率（PE）三個(gè)因子 決策樹在金融中的應(yīng)用 ?舉例：決策樹選股 因子暴算法介紹貝葉斯 ?理論：主觀判斷，新信息修正信念 P(A/B)=P(B/A)*P(A)/P(B) ?用于：分類 P(C=1|X1,X2,X3) P(C=2|X1,X2,X3) 則判定類別為1；否則為2 找出最大的P(X|C)P(C) P(X1,X2,X3|C=i) = P(X1|C=i)

9、*P(X2|C=i)*P(X3|C=i) ?貝葉斯網(wǎng)絡(luò) （貝葉斯公式+圖論） ?應(yīng)用：治病機(jī)制、投資策略、過濾垃圾郵件等 ?優(yōu)勢：利用經(jīng)驗(yàn)做合理判斷和修正，適合金融市場 算法介紹貝葉斯 ?理論：主觀判斷，新信息修正信念 貝葉斯定理在金融中的應(yīng)用 ?舉例：風(fēng)險(xiǎn)管理（企業(yè)違約概率，CDS市場價(jià)） 市場信息+投資者主觀判斷 舉例：反洗錢（西交大張成虎等） 貝葉斯定理在金融中的應(yīng)用 ?舉例：風(fēng)險(xiǎn)管理（企業(yè)違約概率，C無監(jiān)督學(xué)習(xí)（Unsupervised Learning） ?特點(diǎn)：數(shù)據(jù)無標(biāo)簽，學(xué)習(xí)分布特征 ?兩類： ?聚類（K-means、層次聚類、譜聚類） 分成集群（簇），使集群內(nèi)部有較高的相似性，

10、而集群之間相似度較低 ?降維（因子分析、PCA、ICA） 在眾多變量或指標(biāo)中提取具有代表性的特征（因子或因子組合） 例如：在多資產(chǎn)組合中，識(shí)別出如動(dòng)量、價(jià)值、波動(dòng)性、流動(dòng)性等主要驅(qū)動(dòng)因素。 無監(jiān)督學(xué)習(xí)（Unsupervised Learning） ?聚類算法K-means ?步驟： 1、選擇K個(gè)初始中心點(diǎn) 2、計(jì)算cost，組成簇 3、計(jì)算簇內(nèi)所有點(diǎn)的均值作為新的聚類中心重復(fù)上面步驟直至聚類穩(wěn)定。 ?優(yōu)點(diǎn)： 邏輯清晰、高速 ?局限： 需給定K和初始中心點(diǎn) 聚類算法K-means ?步驟： 1、選擇K個(gè)初始中心點(diǎn)聚類在金融中的應(yīng)用 ?舉例：股票分析（流通市值、波動(dòng)率） 聚類在金融中的應(yīng)用 ?舉例

11、：股票分析（流通市值、波動(dòng)率） 聚類在金融中的應(yīng)用 ?股票、基金篩選、資產(chǎn)配置聚類 例如：資產(chǎn)分層聚類，投資組合風(fēng)險(xiǎn)分散化 ?選股準(zhǔn)備（提取主要因子）降維 ?常用的Barra多因子模型 聚類在金融中的應(yīng)用 ?股票、基金篩選、資產(chǎn)配置聚類 半監(jiān)督學(xué)習(xí)（Semi-Supervised Learning） ?問題： 少量標(biāo)注樣本 大量未標(biāo)注樣本 ?方法： ?半監(jiān)督SVM ?標(biāo)簽傳播 ?PU學(xué)習(xí)等 ?應(yīng)用場景 ?產(chǎn)品推薦 半監(jiān)督學(xué)習(xí)（Semi-Supervised Learning主動(dòng)學(xué)習(xí)（Active Learning） ?針對(duì)問題：標(biāo)注樣本少 ?思想：主動(dòng)向oracle獲得標(biāo)注信息 ?獲得哪些樣本

12、的標(biāo)注？ 需設(shè)計(jì)查詢函數(shù)Q ?什么是有用的樣本？ ?不確定(uncertainty) ?差異性(diversity) ?優(yōu)點(diǎn)：快速提高模型性能 主動(dòng)學(xué)習(xí)（Active Learning） ?針對(duì)問題：標(biāo)注主動(dòng)學(xué)習(xí)在金融中的應(yīng)用 ?金融反欺詐中的應(yīng)用 主動(dòng)學(xué)習(xí)在金融中的應(yīng)用 ?金融反欺詐中的應(yīng)用 遷移學(xué)習(xí) ?問題： 源任務(wù) VS 目標(biāo)任務(wù) 大量標(biāo)簽 VS 少量標(biāo)簽 ?目的： 利用源領(lǐng)域數(shù)據(jù)提高相關(guān) 目標(biāo)領(lǐng)域的建模性能。 說明 歸納式 直推式 無監(jiān)督 基于示例 基于特征 ?分類 基于相關(guān)性 通過調(diào)整 源領(lǐng)域的標(biāo)簽（輔助） 和 目標(biāo)領(lǐng)域標(biāo)簽的權(quán)重， 協(xié)同訓(xùn)練得到目標(biāo)模型。 找到 “好”特征 來減少源

13、領(lǐng)域和目標(biāo)領(lǐng)域之間的不同，能夠降低分類、回歸誤差。 發(fā)現(xiàn)源領(lǐng)域和目標(biāo)領(lǐng)域之間的共享參數(shù)。 建立源領(lǐng)域和目標(biāo)領(lǐng)域之間的相關(guān)知識(shí)映射。 基于參數(shù)/模型 遷移學(xué)習(xí) ?問題： 源任務(wù) VS 目標(biāo)任務(wù) 大量遷移學(xué)習(xí)在金融中的應(yīng)用 ?應(yīng)用場景 ?風(fēng)控、反欺詐 精準(zhǔn)營銷模型 反欺詐模型 ?股票走勢預(yù)測 狀態(tài)之間的遷移 ?個(gè)性化推薦 電商推薦 金融產(chǎn)品推薦 遷移學(xué)習(xí)在金融中的應(yīng)用 ?應(yīng)用場景 ?風(fēng)控、反欺詐 多示例學(xué)習(xí)（Multi-Instance Learning） ?問題： 示例 包 全部- - 至少一個(gè)+ + ?目標(biāo)： 預(yù)測新包的標(biāo)記 ?方法： 三軸平行矩形（APR）算法 分為兩步：監(jiān)督學(xué)習(xí)，標(biāo)記更新

14、?應(yīng)用：生物制藥、圖像檢索 ?金融中的應(yīng)用？暫未發(fā)現(xiàn) 多示例學(xué)習(xí)（Multi-Instance Learning）多標(biāo)記學(xué)習(xí)（Multi-Label Learning） ?問題：一個(gè)示例存在多個(gè)標(biāo)記 ?舉例： ?方法： ?問題轉(zhuǎn)換法（二分類、標(biāo)記排序、多分類） ?算法適應(yīng)法（改進(jìn)常用監(jiān)督算法） ?金融應(yīng)用場景？暫未發(fā)現(xiàn) 標(biāo)簽： 動(dòng)作 科幻 奇幻 冒險(xiǎn) 多標(biāo)記學(xué)習(xí)（Multi-Label Learning） ?問多示例多標(biāo)記學(xué)習(xí) 多示例多標(biāo)記學(xué)習(xí) 強(qiáng)化學(xué)習(xí)（Reinforcement Learning） ?不依賴歷史數(shù)據(jù)，延時(shí)標(biāo)簽 ?思想： 每次行動(dòng)得到的反饋找到最優(yōu)策略，使期望獎(jiǎng)賞最大 ?Q學(xué)

15、習(xí)，定義Q函數(shù)，找到使其最大的a ?應(yīng)用：游戲、決策，現(xiàn)實(shí)狀態(tài)復(fù)雜，研究剛起步 強(qiáng)化學(xué)習(xí)（Reinforcement Learning） 強(qiáng)化學(xué)習(xí)在金融中的應(yīng)用 ?應(yīng)用領(lǐng)域 自動(dòng)化交易（交易-游戲，獎(jiǎng)勵(lì)-利潤） 舉例： J.P.Morgan的電子化交易團(tuán)隊(duì)利用強(qiáng)化學(xué)習(xí)的算法開發(fā)了限價(jià)訂單下單模塊（LOPM），旨在最大限度及高效的（數(shù)秒到數(shù)分鐘內(nèi)）降低滑移，完成任務(wù) 強(qiáng)化學(xué)習(xí)在金融中的應(yīng)用 ?應(yīng)用領(lǐng)域 自深度學(xué)習(xí)（Deep Learning） ?本質(zhì) 多層人工神經(jīng)網(wǎng)絡(luò) ?優(yōu)點(diǎn)： ?提取特征更高效 ?更好捕捉非線性關(guān)系 ?模型隨數(shù)據(jù)增加不斷改善 深度學(xué)習(xí)（Deep Learning） ?本質(zhì) 多深

16、度學(xué)習(xí)（續(xù)） ?不同算法的差別來自層的組成結(jié)構(gòu)及層與層之間的關(guān)系 ?DNN（深度神經(jīng)網(wǎng)絡(luò)） ?RNN（循環(huán)神經(jīng)網(wǎng)絡(luò)） ?LSTM（長短期記憶網(wǎng)絡(luò)） ?CNN（卷積神經(jīng)網(wǎng)絡(luò)）卷積+池化（捕捉信息+降維） 深度學(xué)習(xí)（續(xù)） ?不同算法的差別來自層的組成結(jié)構(gòu)及層與層之間深度學(xué)習(xí)在金融中的應(yīng)用 ?目前應(yīng)用有限 ?原因 ?自動(dòng)提取的特征不如分析邏輯提取的因子 ?數(shù)據(jù)量積累不多，容易過擬合 ?金融數(shù)據(jù)環(huán)境變化快、信噪比低 ?舉例：輔助投資 采用語音識(shí)別技術(shù)、歷史交易數(shù)據(jù)分析 智能投資顧問（美國智能投顧公司W(wǎng)ealthfront 和Betterment） 深度學(xué)習(xí)在金融中的應(yīng)用 ?目前應(yīng)用有限 ?原因 ?自動(dòng)

17、提取的廣度學(xué)習(xí)（Broad Learning） ?大數(shù)據(jù) 復(fù)雜性、大規(guī)模、非結(jié)構(gòu)化數(shù)據(jù) ?數(shù)據(jù)融合 Velocity、Volume、Veracity 和 Variety 結(jié)構(gòu)化、非結(jié)構(gòu)化（新聞、論壇） ? 舉例： 借貸風(fēng)險(xiǎn)、股票評(píng)價(jià) 全方位畫像 ?技術(shù)： ?自然語言處理 ?信息網(wǎng)絡(luò)挖掘 ?知識(shí)圖譜 ?社交網(wǎng)絡(luò) 廣度學(xué)習(xí)（Broad Learning） ?大數(shù)據(jù) 自然語言處理技術(shù)（NLP） ?應(yīng)用：輔助投資 輿情分析、智能投顧、自動(dòng)生成報(bào)告 自然語言處理技術(shù)（NLP） ?應(yīng)用：輔助投資 總結(jié)：潛在應(yīng)用場景 ?估價(jià) 選股 擇時(shí) 個(gè)性化服務(wù) 黑天鵝 投資風(fēng)格 產(chǎn)品推薦 總結(jié)：潛在應(yīng)用場景 ?估價(jià) 選

18、股 擇時(shí) 個(gè)性化應(yīng)用（1）估價(jià) ?通過特定技術(shù)指標(biāo)與數(shù)學(xué)模型，估算出股票在未來一段時(shí)期的相對(duì)價(jià)格。 ?業(yè)績*此行業(yè)的一般市盈率 ?凈資產(chǎn)*此行業(yè)一般市凈率。IT業(yè)這類企業(yè)不合適 ?舉例：KNN方法發(fā)現(xiàn)被低估的股票 應(yīng)用（1）估價(jià) ?通過特定技術(shù)指標(biāo)與數(shù)學(xué)模型，估算出股票應(yīng)用（2）選股 ?利用數(shù)量化的方法選擇股票組合，期望該股票組合能夠獲得超越基準(zhǔn)收益率的投資行為 ?多因子模型是應(yīng)用最廣泛的一種選股模型，基本原理是采用一系列的因子作為選股標(biāo)準(zhǔn)，滿足這些因子的股票則被買入，不滿足的則賣出。 應(yīng)用（2）選股 ?利用數(shù)量化的方法選擇股票組合，期望該股應(yīng)用（3）擇時(shí) ?利用某種方法來判斷大勢的走勢情況，

19、是上漲還是下跌或者是盤整。 ?收益率最高的一種交易方式 ?SVM擇時(shí)就是利用SVM技術(shù)進(jìn)行大盤趨勢的模式識(shí)別，將大盤區(qū)分為幾個(gè)明顯的模式，從而找出其中的特征，然后利用歷史數(shù)據(jù)學(xué)習(xí)的模型來預(yù)測未來的趨勢。 應(yīng)用（3）擇時(shí) ?利用某種方法來判斷大勢的走勢情況，是上應(yīng)用（4）個(gè)性化服務(wù) ?智能投顧（個(gè)性化、細(xì)致） ?便利、低門檻和互聯(lián)網(wǎng)化的理財(cái)方式 ?自動(dòng)生成信息簡報(bào) ?AI取代：大量易標(biāo)準(zhǔn)化、重復(fù)性、不具獨(dú)創(chuàng)性的工作 如：清算、交收、估值、對(duì)賬 做多因子模型的投資經(jīng)理？也很可能被AI取代 應(yīng)用（4）個(gè)性化服務(wù) ?智能投顧（個(gè)性化、細(xì)致） ?便利應(yīng)用（5）黑天鵝事件 ?實(shí)時(shí)監(jiān)測 ?預(yù)測可能事件 例如

20、：通過抓取Twitter數(shù)據(jù)，預(yù)測地域疾病突發(fā) ?歷史事件的數(shù)據(jù)模式 例如：美國的Kensho公司 自動(dòng)分析報(bào)表 ?潛在研究 ?社會(huì)影響力分析 ?信息傳播 ?基于機(jī)器學(xué)習(xí)技術(shù)的社會(huì)網(wǎng)絡(luò)分析與挖掘 應(yīng)用（5）黑天鵝事件 ?實(shí)時(shí)監(jiān)測 ?預(yù)測可能事件 應(yīng)用（6）投資風(fēng)格學(xué)習(xí) ?投資經(jīng)理風(fēng)格 ?積極性、消極型 ?成長型、價(jià)值型、混合型 ?大盤型、中盤型、小盤型 ?技術(shù)分析型、基本面分析型 ?頭上型、底下型 應(yīng)用（6）投資風(fēng)格學(xué)習(xí) ?投資經(jīng)理風(fēng)格 ?積應(yīng)用（7）產(chǎn)品推薦 ?面向產(chǎn)品 面向客戶 ?協(xié)同過濾 1. 分析各個(gè)用戶對(duì)item的評(píng)價(jià) 2. 依據(jù)評(píng)價(jià)計(jì)算用戶相似度； 3. 選出與當(dāng)前用戶最相似的N個(gè)用戶； 4. 將這N個(gè)用戶評(píng)價(jià)最高并且當(dāng)前用戶又沒有瀏覽過的item推薦給當(dāng)前用戶。 ?基于內(nèi)容的方法 ?基于機(jī)器