人工智能助力書寫數(shù)字金融大文章 2024-楊青

度小滿數(shù)據(jù)智能部總經(jīng)理，技術(shù)委員會(huì)執(zhí)行主席第一次工業(yè)革命“蒸汽時(shí)代”第二次工業(yè)革命“電氣時(shí)代”“信息時(shí)代”“人工智能”“符號(hào)主義”?達(dá)特茅斯會(huì)議提出“AI”“聯(lián)結(jié)主義”“深度學(xué)習(xí)”“生成式AI” 技術(shù)進(jìn)步的速度日益加快，近3年極速涌現(xiàn)了少回科技擴(kuò)散少回科技擴(kuò)散科技在金融領(lǐng)域的應(yīng)用速度科技在金融領(lǐng)域的應(yīng)用速度科技對(duì)金融的影響深度和廣度科技金融加速要素的流通與配置ull信息科技金融加速要素的流通與配置ull信息普惠金融養(yǎng)老金融綠色金融普惠金融養(yǎng)老金融綠色金融 矯正市場(chǎng)失靈與金融割裂支付理財(cái)資管保險(xiǎn)信托AI：推動(dòng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)，引領(lǐng)智能時(shí)代潮流AI+信貸是推動(dòng)數(shù)字金融發(fā)展的高支付理財(cái)資管保險(xiǎn)信托AI：推動(dòng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)，引領(lǐng)智能時(shí)代潮流AI+信貸是推動(dòng)數(shù)字金融發(fā)展的高價(jià)值領(lǐng)域信貸：促進(jìn)資源有效配置、激發(fā)經(jīng)濟(jì)活力智能獲客智能風(fēng)控智能經(jīng)營(yíng)通過(guò)對(duì)用戶情緒的監(jiān)測(cè)、客服質(zhì)量的監(jiān)督，為客戶淆機(jī)器學(xué)習(xí)有可能對(duì)廣告產(chǎn)生興趣并轉(zhuǎn)化為貸款用戶；通過(guò)評(píng)估廣告位競(jìng)爭(zhēng)強(qiáng)度優(yōu)化實(shí)時(shí)出價(jià)，降營(yíng)銷：優(yōu)化流量?jī)r(jià)值識(shí)別，提升精準(zhǔn)獲客能力業(yè)務(wù)場(chǎng)景 借助對(duì)問(wèn)題深入挖掘，創(chuàng)新性的在信貸獲客營(yíng)銷上探業(yè)務(wù)場(chǎng)景 模模型 predictiontrainpredictionxxT-24M訓(xùn)練代理模型T0風(fēng)控：NLP技術(shù)演進(jìn)，提升長(zhǎng)文本理解和風(fēng)險(xiǎn)識(shí)別效果 借助自然語(yǔ)言處理技術(shù)迭代發(fā)展，有效處理長(zhǎng)文 業(yè)務(wù)場(chǎng)景業(yè)務(wù)場(chǎng)景之前的解決方案 之前的解決方案 長(zhǎng)度外推算法片段粒度算法代表算法：基于RoPE改進(jìn)的位置編碼代表算法：BlocktransformerYaRN：大型語(yǔ)言模型的有效上下文窗口拓展，2023BlockTransformer:通過(guò)全局到局部的語(yǔ)言建模加速LLM推理,2024Mamba:基于選擇狀態(tài)空間的線性時(shí)間序列建模,2024風(fēng)控：圖機(jī)器學(xué)習(xí)，提升關(guān)聯(lián)信息解讀和風(fēng)險(xiǎn)區(qū)分能力 業(yè)務(wù)場(chǎng)景業(yè)務(wù)場(chǎng)景之前的解決方案之前的解決方案人工經(jīng)驗(yàn)人工特征衍生機(jī)器自動(dòng)衍生深度學(xué)習(xí)KSBaseline22%24%26%異強(qiáng)強(qiáng)偏業(yè)務(wù)場(chǎng)景風(fēng)控：時(shí)序模型，精準(zhǔn)挖掘信貸行為趨勢(shì)提升風(fēng)險(xiǎn)識(shí)別能力業(yè)務(wù)場(chǎng)景 模型效果模型效果傳統(tǒng)解決方案?jìng)鹘y(tǒng)解決方案經(jīng)營(yíng)：因果推斷，優(yōu)化額度模型平衡全局風(fēng)險(xiǎn) 缺點(diǎn)1）額度變化后，用戶的風(fēng) 缺點(diǎn)1）額度變化后，用戶的風(fēng)度度企業(yè)對(duì)大模型的需求轉(zhuǎn)變：由「廣泛探索」轉(zhuǎn)向「核心業(yè)務(wù)深化」，旨在大模型專業(yè)性、泛化性和經(jīng)濟(jì)性很難兼得大模型專業(yè)性、泛化性和經(jīng)濟(jì)性很難兼得專注大模型在企業(yè)核心業(yè)務(wù)中的直接應(yīng)用專注大模型在企業(yè)核心業(yè)務(wù)中的直接應(yīng)用金融業(yè)應(yīng)用大模型方式多樣，開源模型調(diào)優(yōu)企業(yè)對(duì)大模型的核心需求：將私域數(shù)據(jù)轉(zhuǎn)化為競(jìng)爭(zhēng)優(yōu)勢(shì)，并確保場(chǎng)景路線一：直接使用閉源模型路線一：直接使用閉源模型路線二：直接使用開源模型路線二：直接使用開源模型路線三：開源模型+路線三：開源模型+Prompt+知識(shí)庫(kù)路線四：基于開源模型進(jìn)行適配調(diào)優(yōu)定制化靈活性高效性.....可控性路線四：基于開源模型進(jìn)行適配調(diào)優(yōu)定制化靈活性高效性.....可控性開源調(diào)優(yōu)的優(yōu)勢(shì)大模型能力的“冰山理論”顯性能力顯性能力隱性能力隱性能力2GPT-4o-2024-05-133GPT-4o-mini-2024-07-187Gemini-1.5-P8Gemini-1.5-Pro-API-0409-PreviewGoogle閉源9GPT-4-Turbo-2024-04-0910GPT-4-11 中文理解生成欠精準(zhǔn)場(chǎng)景適配能力不足實(shí)時(shí)高效服務(wù)受限中文理解生成欠精準(zhǔn)場(chǎng)景適配能力不足實(shí)時(shí)高效服務(wù)受限 測(cè)評(píng)體系建設(shè) 測(cè)評(píng)體系建設(shè)?大模型在實(shí)際工作場(chǎng)景中得到反?在大規(guī)模通用文本數(shù)據(jù)上訓(xùn)練，掌握廣泛的語(yǔ)言理解和信息處理?經(jīng)過(guò)行業(yè)特有數(shù)據(jù)的訓(xùn)練?在大規(guī)模通用文本數(shù)據(jù)上訓(xùn)練，掌握廣泛的語(yǔ)言理解和信息處理 場(chǎng)景增強(qiáng) 工程增強(qiáng) 算法增強(qiáng)數(shù)據(jù)增強(qiáng)數(shù)據(jù)增強(qiáng)模型中文能力提升增量預(yù)訓(xùn)練模型業(yè)務(wù)效果突破模型中文能力提升增量預(yù)訓(xùn)練模型業(yè)務(wù)效果突破模型資源成本控制指令微調(diào)指令微調(diào)強(qiáng)化對(duì)齊微調(diào)和推理：以最小參數(shù)Llama3-8B為例，2張A100顯卡即可微調(diào)，一張4微調(diào)和推理：以最小參數(shù)Llama3-8B為例，2張A100顯卡即可微調(diào)，一張4人機(jī)共生層人機(jī)共生層信貸業(yè)務(wù)保險(xiǎn)業(yè)務(wù)財(cái)富管理智能助手層智能助手層基礎(chǔ)能力層低高 件數(shù)：6付款：35.70 開創(chuàng)階段典型代表中文友好文檔理解輕量模型印章印章雙語(yǔ)疊字 表格表格圖形版式量身定制，個(gè)性化的投資方案降低投資門檻，實(shí)現(xiàn)普惠化的專業(yè)投資服務(wù)大模型智能投顧 理財(cái)投顧Agent 大模型智能投顧 理財(cái)投顧Agent 聯(lián)度不大。鑒于股價(jià)已大幅偏離基本面，后續(xù)繼續(xù)大幅意投資風(fēng)險(xiǎn)...金可以起到“壓艙石”的效果...建議在做好風(fēng)險(xiǎn)評(píng)估傳統(tǒng)客服AI客服3.0AI客服1.0AI客服2.0????????? 平均響應(yīng)時(shí)間減少90%客戶滿意度提升30%人力成本降低60% 信貸營(yíng)銷場(chǎng)景被濫用于生成虛假信息、欺詐等行為事實(shí)性錯(cuò)誤、邏輯不一致、甚至憑空捏造信息算法歧視、隱私泄露、就業(yè)替代等大模型檢索增強(qiáng)大模型檢索增強(qiáng)結(jié)合專業(yè)知識(shí)庫(kù)，可以顯著提升生成內(nèi)容的準(zhǔn)確性動(dòng)態(tài)RAG（Random)Zero-Shot說(shuō)呈現(xiàn)上漲趨勢(shì)。…有所下跌……