2023大模型金融應(yīng)用實(shí)踐及發(fā)展建議報(bào)告

IL-e-ó?afg'üf€bP??@ FlTl2023?11@主 任：潘潤(rùn)紅副主任：黃程林、莊文君編委會(huì)成員（排名不分先后，按姓氏拼音排序）：陳志明、代鐵、董佳藝、方科、胡利明、黃煒、李鋒、李金龍、李一昂、林冠峰、劉承巖、劉殿興、劉漢西、劉訓(xùn)艷、陸鑫、潘華、沈劍平、孫莉、汪航、王建軍、王玲、王麒、王彥博、吳永飛、肖京、楊波、俞楓、張海燕、張潔、趙海、趙煥芳編寫(xiě)組成員（排名不分先后，按姓氏拼音排序）：曹伯翰、陳超、陳廣浩、陳鴻、陳明、陳志豪、遲倩倩、崔雨萍、刁翔宇、段旭歡、范容、茍志龍、何平、何巧媚、何幸杰、胡國(guó)強(qiáng)、胡師陽(yáng)、胡應(yīng)明、黃彪、黃韋、金睿、金昕、李大偉、李冬妮、李峰、李娟、李夢(mèng)霄、劉暢、劉威、羅安揚(yáng)、羅方華、毛奕凱、彭晉、戚翯、邱曉慧、談健、唐登龍、王瑩、王煜惠、王振、溫昱暉、文俊杰、吳青松、徐崚峰、鄢勝利、楊洋、于飛、曾培基、占可非、張彬、張紳、張笑冬、趙輝、周思霽、宗宇主要執(zhí)筆人（排名不分先后，按姓氏拼音排序）：鮑思佳、盧金環(huán)、屈 洋、孫 曦、王帥主編單位：北京金融信息化研究所中國(guó)農(nóng)業(yè)銀行股份有限公司中國(guó)郵政儲(chǔ)蓄銀行有限責(zé)任公司上海銀行股份有限公司騰訊云計(jì)算(北京)有限責(zé)任公司螞蟻科技集團(tuán)股份有限公司參編單位：中國(guó)銀行股份有限公司平安銀行股份有限公司招商銀行股份有限公司華夏銀行股份有限公司興業(yè)銀行股份有限公司華泰證券股份有限公司國(guó)信證券股份有限公司中國(guó)銀聯(lián)股份有限公司北京國(guó)家金融科技認(rèn)證中心北京銀聯(lián)金卡科技有限公司海光信息技術(shù)股份有限公司北京火山引擎科技有限公司北京瑞萊智慧科技有限公司 AI 一、概述 1二、大模型技術(shù)與產(chǎn)品發(fā)展現(xiàn)狀 2（一）工程化應(yīng)用主要環(huán)節(jié)與技術(shù) 2（二）國(guó)內(nèi)外主要產(chǎn)品情況 9三、大模型在金融業(yè)應(yīng)用與探索實(shí)踐 10（一）技術(shù)路線 10（二）使用方式 14（三）應(yīng)用場(chǎng)景 17（四）應(yīng)用趨勢(shì) 29四、大模型在金融業(yè)應(yīng)用面臨的風(fēng)險(xiǎn)與挑戰(zhàn) 30（一）金融應(yīng)用規(guī)范與指南亟需完善 30（二）金融應(yīng)用場(chǎng)景缺少范式 31（三）高質(zhì)量金融訓(xùn)練數(shù)據(jù)欠缺 32（四）訓(xùn)練算力支撐普遍不足 32（五）算法可信度和安全性有待提升 33五、多措并舉提升大模型金融業(yè)應(yīng)用水平 34（一）加強(qiáng)金融應(yīng)用的指導(dǎo)與管理 34（二）有序推動(dòng)金融應(yīng)用場(chǎng)景落地 34（三）積極構(gòu)建高質(zhì)量金融數(shù)據(jù)集 35（四）產(chǎn)用協(xié)同共筑AI算力基礎(chǔ)設(shè)施 35（五）完善算法優(yōu)化與風(fēng)險(xiǎn)管控體系 36附錄 38案例一：郵儲(chǔ)銀行基于大模型的智能知識(shí)問(wèn)答 38案例二：某股份制銀行基于騰訊云TI-OCR大模型單據(jù)處理 41案例三：某股份制銀行基于騰訊云金融大模型的智能客服 45案例四：某股份制銀行基于中科可控的金融大模型服務(wù)平臺(tái) 48案例五：北京銀行AIB金融智能應(yīng)用平臺(tái) 52案例六：上海銀行基于開(kāi)源大模型的智能辦公助手 55案例七：國(guó)信證券輔助運(yùn)營(yíng)人員服務(wù)客戶場(chǎng)景 57案例八：螞蟻金融大模型應(yīng)用-支小寶2.0 59ChatGPT多個(gè)行業(yè)的工作方式和格局。2023（征求意見(jiàn)稿給出了生成式人工智能服務(wù)在語(yǔ)料安全、模型安全、安全措施、提升智能技術(shù)的可獲得性，助力金融服務(wù)降本增效。（一）工程化應(yīng)用主要環(huán)節(jié)與技術(shù)數(shù)據(jù)構(gòu)建高質(zhì)量的數(shù)據(jù)預(yù)處理是提升模型表現(xiàn)和安全可靠性的重要質(zhì)量過(guò)濾，對(duì)于包含個(gè)人消除帶有種族/性其目標(biāo)是在保留基本信息的通過(guò)人工創(chuàng)建對(duì)現(xiàn)有數(shù)模型算法大模型技術(shù)的突破源于自然語(yǔ)言處理領(lǐng)域的Transformer1Transformer編碼到解碼三大類，其主要特點(diǎn)和代表性模型如表1所示。表1 大模型結(jié)構(gòu)主要分類及特點(diǎn)Transformer比如語(yǔ)音領(lǐng)域的OpenAIwhisperDaLL-EDiffusion模型訓(xùn)練預(yù)訓(xùn)練微調(diào)LoRAAdapterP-tuningQ-learningQ大模型訓(xùn)練場(chǎng)景對(duì)中高端AIGPU務(wù)、AIAI機(jī)構(gòu)現(xiàn)有AI模型壓縮與加速模型壓縮是指通過(guò)各種技術(shù)手段來(lái)減小機(jī)器學(xué)習(xí)模型的大知識(shí)蒸餾剪枝量化型參數(shù)和運(yùn)算中數(shù)字精度以降低模型的存儲(chǔ)需求和計(jì)算復(fù)雜度模型加速數(shù)增長(zhǎng)，正逐漸成為研究熱點(diǎn)。訓(xùn)練環(huán)節(jié)推理環(huán)節(jié)GPUTPUASICAI結(jié)合加速芯片軟件棧及開(kāi)發(fā)工具鏈等配套的軟件生態(tài)能力。模型評(píng)測(cè)模型評(píng)測(cè)在機(jī)器學(xué)習(xí)和自然語(yǔ)言處理領(lǐng)域扮演著至關(guān)重要幫助模型迭代優(yōu)化。200估基準(zhǔn)包括HELMMMLUC-EVALBigBenchHumanEvalAGIEVal、SuperCLUE、OpenLLM模型運(yùn)營(yíng)工程化方面部署方面性。管理方面，使用身份和訪問(wèn)管理工具可以控制資源的訪問(wèn)權(quán)常檢測(cè)，基于實(shí)時(shí)跟蹤和警報(bào)設(shè)置，確保模型的可靠運(yùn)行。安全可信一般而言，大模型的安全可信會(huì)從多個(gè)維度進(jìn)行考量和評(píng)估，可靠性內(nèi)容安全性公平無(wú)偏性魯棒性可解釋性數(shù)據(jù)安全和隱私保護(hù)數(shù)據(jù)處理環(huán)節(jié)模型開(kāi)發(fā)階段模型上線前大模型對(duì)客提供服務(wù)時(shí)模型運(yùn)營(yíng)過(guò)程中化模型。（二）國(guó)內(nèi)外主要產(chǎn)品情況自ChatGPTAI一是相對(duì)ChatGPT數(shù)據(jù)來(lái)源：金融信息化研究所更新1圖1國(guó)內(nèi)外典型大模型產(chǎn)品發(fā)展時(shí)間線人工智能技術(shù)的應(yīng)用一直是金融機(jī)構(gòu)數(shù)字化轉(zhuǎn)型和智能化升級(jí)的核心領(lǐng)域，大模型具備的理解、學(xué)習(xí)、生成和推理能力，可觀的知識(shí)容量和卓越的多任務(wù)泛化能力，將進(jìn)一步推動(dòng)金融服務(wù)的智能化升級(jí)。（一）技術(shù)路線技術(shù)選型在調(diào)研、匯報(bào)和POC1/RUCAIBox/LLMSurvey開(kāi)源大模型是指通過(guò)開(kāi)源方式發(fā)布和GLM、Llama研究，同時(shí)將其與商用大模型的應(yīng)用效果進(jìn)行比對(duì)。二是產(chǎn)學(xué)研聯(lián)合創(chuàng)新大模型研制。金融機(jī)構(gòu)、科技企業(yè)、科工商銀行與清華、鵬城實(shí)驗(yàn)室、華為等高等院校、科研院所、科技企業(yè)開(kāi)展大模型聯(lián)合創(chuàng)新。專欄一產(chǎn)學(xué)研聯(lián)合創(chuàng)新大模型研制工商銀行與清華、鵬城實(shí)驗(yàn)室、華為等高等院校、科研院所、科技企業(yè)開(kāi)展大模型聯(lián)合創(chuàng)新。專欄一產(chǎn)學(xué)研聯(lián)合創(chuàng)新大模型研制交通銀行與華為、科大訊飛共建了聯(lián)合創(chuàng)新實(shí)驗(yàn)室，推進(jìn)大模型及算力集群技術(shù)、人工智能等先進(jìn)技術(shù)在金融領(lǐng)域的落地應(yīng)用。交通銀行與華為、科大訊飛共建了聯(lián)合創(chuàng)新實(shí)驗(yàn)室，推進(jìn)大模型及算力集群技術(shù)、人工智能等先進(jìn)技術(shù)在金融領(lǐng)域的落地應(yīng)用。北京銀行與火山引擎、華為、中科院自動(dòng)化所、中科聞歌共建聯(lián)合創(chuàng)新實(shí)驗(yàn)室，圍繞金融大模型體系構(gòu)建、前沿金融科技應(yīng)用等領(lǐng)域開(kāi)展合作創(chuàng)新，共同探索銀行智能化技術(shù)的最佳實(shí)踐。三是商用大模型采購(gòu)。眾多國(guó)內(nèi)外商用大模型正在逐步推廣工程化、易用性強(qiáng)、服務(wù)有保障的解決方案。金融機(jī)構(gòu)在大模型技術(shù)選型時(shí)需要綜合考慮大模型對(duì)業(yè)務(wù)開(kāi)發(fā)平臺(tái)，更好地充分利用業(yè)界多種領(lǐng)先的通用大模型。部署方式其次要根據(jù)業(yè)務(wù)場(chǎng)景和技術(shù)要求，選擇合適的硬件和軟件環(huán)境，一是私有化部署。金融機(jī)構(gòu)將大模型部署于自有服務(wù)器，由人力來(lái)建設(shè)和維護(hù)。二是行業(yè)云部署。由行業(yè)內(nèi)起主導(dǎo)作用或掌握關(guān)鍵資源的組迫切。三是公有云部署。金融機(jī)構(gòu)通過(guò)標(biāo)準(zhǔn)接口調(diào)用部署在公有云因此該部署方式可能更適用于互聯(lián)網(wǎng)類的金融企業(yè)或非敏感類業(yè)務(wù)場(chǎng)景。報(bào)撰寫(xiě)，行業(yè)云或公有云部署具有一定優(yōu)勢(shì)。目前，國(guó)外已有API行業(yè)云或公有云來(lái)降低大模型金融應(yīng)用的門檻。（二）使用方式APIAPI調(diào)用APIAPIAPI快速將大模型在項(xiàng)目中進(jìn)行測(cè)試驗(yàn)證，且成本低廉。然而，APIAPI訓(xùn)練的方式進(jìn)行優(yōu)化。提示工程模型微調(diào)二次訓(xùn)練精準(zhǔn)匹配業(yè)務(wù)需求，使得大模型回答結(jié)果較為可信。（三）應(yīng)用場(chǎng)景AI要場(chǎng)景探索實(shí)踐來(lái)構(gòu)建金融行業(yè)大模型應(yīng)用場(chǎng)景全景圖。數(shù)據(jù)來(lái)源：金融信息化研究所圖2金融行業(yè)大模型應(yīng)用場(chǎng)景全景圖智能客服24專欄二智能客服場(chǎng)景工商銀行利用大模型的語(yǔ)義理解、生成能力，結(jié)合基于知識(shí)庫(kù)的檢索提取能力，精準(zhǔn)理解客戶意圖，生成符合其業(yè)務(wù)特性的結(jié)果，為客戶提供更準(zhǔn)確、更個(gè)性化的服務(wù)，提升應(yīng)答效率和質(zhì)量，從而提升客戶滿意度。20233試一程度提升客戶緒識(shí)效果縮了約50的力農(nóng)業(yè)銀行大模型ChatABC面向行內(nèi)客服員工提供遠(yuǎn)程銀行AI輔助客服問(wèn)答助手服務(wù)。此助手基于遠(yuǎn)程銀行問(wèn)答數(shù)據(jù)完成訓(xùn)練微調(diào)，支持模型在多輪問(wèn)答中識(shí)別客戶的主要意圖，結(jié)合遠(yuǎn)程銀行知識(shí)庫(kù)和知識(shí)圖譜，生成擬人問(wèn)答，輔助坐席人員在問(wèn)答中獲取知識(shí)，有效提升坐席人員的答復(fù)效率。中國(guó)銀行正探索將大語(yǔ)言模型運(yùn)用于客服場(chǎng)景，幫助業(yè)務(wù)人員實(shí)現(xiàn)更自然靈活的智能問(wèn)答功能，有效地應(yīng)用到坐席問(wèn)答輔助、員工培訓(xùn)、行內(nèi)員工辦公等多個(gè)場(chǎng)景。交通銀行正探索使用大模型來(lái)準(zhǔn)確識(shí)別客戶意圖和坐席人員的知識(shí)檢索需求，進(jìn)行相應(yīng)客服知識(shí)的提煉和推薦，并在坐席通話結(jié)束后，對(duì)服務(wù)內(nèi)容進(jìn)行自動(dòng)的標(biāo)準(zhǔn)化分類，生成通話小結(jié)，以提升坐席人員整體工作效率。光大銀行探索大模型技術(shù)與現(xiàn)有智能客服相融合，基于大模型意圖理解能力對(duì)客戶問(wèn)題進(jìn)一步理解，以提升客戶問(wèn)答滿意度；基于大模型技術(shù)探索坐席工單自動(dòng)生成可能性，對(duì)客戶與坐席對(duì)話內(nèi)容快速生成摘要工單，提升客戶服務(wù)效率。民生銀行探索運(yùn)用大模型技術(shù)輔助坐席完成問(wèn)題回復(fù)和工單生興業(yè)銀行基于大模型技術(shù)實(shí)現(xiàn)客服語(yǔ)料智能泛化，對(duì)當(dāng)前語(yǔ)料標(biāo)注過(guò)程中存在的標(biāo)注工作繁瑣、工作量大等痛點(diǎn)，通過(guò)大模型生成符合業(yè)務(wù)需求的語(yǔ)料，以幫助客服運(yùn)營(yíng)人員提升標(biāo)注效率，進(jìn)而提升智能客服回答準(zhǔn)確率，減少客戶投訴。上海銀行正探索在客戶服務(wù)領(lǐng)域運(yùn)用大模型優(yōu)秀的語(yǔ)言理解能力并結(jié)合行內(nèi)知識(shí)庫(kù)，在充分洞察客戶訴求的前提下，對(duì)復(fù)雜場(chǎng)景進(jìn)行分解，能夠從知識(shí)庫(kù)中自動(dòng)完成有效知識(shí)的提取與采編，解決知識(shí)庫(kù)運(yùn)維完全依賴人力、多語(yǔ)義理解、語(yǔ)義纏繞等問(wèn)題，為客戶提供優(yōu)質(zhì)解答。國(guó)信證券探索運(yùn)用大模型技術(shù)自動(dòng)化生成服務(wù)話術(shù)和客戶指標(biāo)數(shù)據(jù)，包括：知識(shí)問(wèn)答、行業(yè)分析、行情快報(bào)、客戶資產(chǎn)配置建議、資訊推送摘要、投訴建議反饋等，提升運(yùn)營(yíng)人員的服務(wù)質(zhì)量和效率。平安保險(xiǎn)運(yùn)用大模型技術(shù)解決傳統(tǒng)知識(shí)庫(kù)梳理成本高、培訓(xùn)成本高、推薦話術(shù)僵化等問(wèn)題，在客服人員與客戶通話過(guò)程中，實(shí)時(shí)根據(jù)客戶需求，生成個(gè)性化話術(shù)，從而提升客戶滿意度，大大降低坐席人員學(xué)習(xí)成本。智能辦公專欄三智能辦公場(chǎng)景工商銀行通過(guò)搜索技術(shù)與大模型結(jié)合，將知識(shí)庫(kù)檢索到的信息作為大模型的生成依據(jù)，實(shí)現(xiàn)自然語(yǔ)言的向量搜索，輔助業(yè)務(wù)人員在業(yè)務(wù)辦理過(guò)程中快速查詢到客戶問(wèn)題的準(zhǔn)確應(yīng)答，提升應(yīng)答效率和質(zhì)量，從而提升客戶滿意度。農(nóng)業(yè)銀行大模型ChatABC面向行內(nèi)員工辦公場(chǎng)景推出智能問(wèn)答應(yīng)用。此應(yīng)用著眼于大模型在金融領(lǐng)域的知識(shí)理解能力、內(nèi)容生成能力，并融合知識(shí)庫(kù)，具備研發(fā)服務(wù)領(lǐng)域級(jí)知識(shí)理解和問(wèn)答能力，可完成自由閑聊、行內(nèi)知識(shí)問(wèn)答、內(nèi)容摘要等多類型任務(wù)，并以行內(nèi)研發(fā)服務(wù)平臺(tái)的問(wèn)答助手、工單自動(dòng)化回復(fù)助手、行內(nèi)即時(shí)聊天工具等多渠道形式進(jìn)行試點(diǎn)。交通銀行正探索在辦公軟件中嵌入基于大模型的智能問(wèn)答助手，為員工提供人資規(guī)章、授信、對(duì)公、零售業(yè)務(wù)場(chǎng)景的會(huì)話式咨詢。同時(shí)，交通銀行利用大模型搭建會(huì)議紀(jì)要助手，從口語(yǔ)化的會(huì)議記錄中提取關(guān)鍵信息，包括討論主題、觀點(diǎn)、結(jié)論等，組織成連統(tǒng)采用Langchain民生銀行通過(guò)大模型的理解能力建立多場(chǎng)景文檔助手，對(duì)文檔的主要內(nèi)容進(jìn)行摘要匯總整理，全面提升員工工作效率，實(shí)現(xiàn)針對(duì)文檔不同場(chǎng)景的個(gè)性化需求。興業(yè)銀行探索通過(guò)大模型嵌入行內(nèi)WPS辦公套件，實(shí)現(xiàn)包括PPT大綱生成，文章內(nèi)容生成，內(nèi)容擴(kuò)寫(xiě)與改寫(xiě)，文章風(fēng)格轉(zhuǎn)變等功能，以減輕總分行一線員工的文字材料撰寫(xiě)潤(rùn)色的負(fù)擔(dān)。北京銀行搭建“京智助手”大模型對(duì)話機(jī)器人，提供行內(nèi)知識(shí)10000放，并同步建設(shè)移動(dòng)端和PAD上海銀行利用大模型的理解和生成能力，搭建智能辦公助手，一方面接入行內(nèi)知識(shí)庫(kù)，提升知識(shí)檢索能力，并由大模型對(duì)于長(zhǎng)文檔自動(dòng)檢索生成知識(shí)條目等，另一方面接入行內(nèi)各類辦公系統(tǒng)，提供公文檢查、寫(xiě)作、總結(jié)潤(rùn)色等功能，在大幅提升辦公效率的基礎(chǔ)上，極大地提升員工交互體驗(yàn)。中信證券正在積極探索利用大模型建立跨境實(shí)時(shí)通訊系統(tǒng)，旨在實(shí)現(xiàn)境內(nèi)外員工用母語(yǔ)進(jìn)行無(wú)障礙交流，提高員工工作效率，加強(qiáng)團(tuán)隊(duì)協(xié)作力度，以及提升對(duì)國(guó)際化客戶的服務(wù)質(zhì)量，加強(qiáng)全球化布局和業(yè)務(wù)發(fā)展。國(guó)泰君安將大模型技術(shù)與OCR、語(yǔ)音識(shí)別等技術(shù)相結(jié)合，圍繞智慧辦公場(chǎng)景開(kāi)發(fā)智能辦公助手和基于大模型的知識(shí)庫(kù)問(wèn)答應(yīng)用，提供會(huì)議紀(jì)要生成、郵件撰寫(xiě)等常見(jiàn)辦公任務(wù)小工具，通過(guò)自然語(yǔ)言問(wèn)答的形式實(shí)現(xiàn)文檔問(wèn)答，為員工提供一個(gè)智能、高效、便捷的工作伙伴，提升辦公效率和工作質(zhì)量。智能研發(fā)大模型在智能研發(fā)場(chǎng)景展示出很大的潛力。大模型具有處理自然語(yǔ)言和生成多種編程語(yǔ)言高質(zhì)量代碼的能力，在系統(tǒng)設(shè)計(jì)、代碼生成與補(bǔ)全、代碼翻譯與注釋、輔助測(cè)試等方面為科技人員讀理解和SQLSQLBI技術(shù)人員更直觀且深入地理解、利用數(shù)據(jù)，降低技術(shù)門檻。專欄四智能研發(fā)場(chǎng)景農(nóng)業(yè)銀行大模型ChatABC推出AI輔助編程應(yīng)用，面向行內(nèi)研發(fā)員工提供輔助編程服務(wù)。通過(guò)行內(nèi)多個(gè)系統(tǒng)的代碼和代碼規(guī)范進(jìn)行微調(diào)，實(shí)現(xiàn)Java、Python、JavaScript、SQL等語(yǔ)言的代碼生成、代碼補(bǔ)全、代碼解釋等能力，可在前端、后端、單元測(cè)試等多類研發(fā)編碼場(chǎng)景提供輔助，提升研發(fā)人員的開(kāi)發(fā)效率。平安銀行在ChatBI項(xiàng)目中應(yīng)用了BankGPT的金融理解能力，旨在為業(yè)務(wù)人員和管理層提供即時(shí)的數(shù)據(jù)分析服務(wù)，當(dāng)業(yè)務(wù)人員面臨數(shù)據(jù)相關(guān)的問(wèn)題時(shí)，系統(tǒng)可以迅速給出精確答案，實(shí)現(xiàn)提問(wèn)與回答的無(wú)縫對(duì)接。民生銀行探索運(yùn)用大模型技術(shù)輔助用戶完成高質(zhì)量代碼編寫(xiě)，按需完成代碼生成、代碼補(bǔ)全等功能，促進(jìn)分析平民化，提升代碼效率，實(shí)現(xiàn)質(zhì)量和效率的雙提升。興業(yè)銀行通過(guò)大模型嵌入行內(nèi)開(kāi)發(fā)IDE的方式，探索基于大模型技術(shù)實(shí)現(xiàn)代碼輔助生成，以提升科技研發(fā)單位的開(kāi)發(fā)效率和代碼質(zhì)量。上海銀行通過(guò)在軟件開(kāi)發(fā)過(guò)程中引入大模型進(jìn)行代碼補(bǔ)全、注釋生成、代碼糾錯(cuò)等自動(dòng)化輔助功能，極大地提升了開(kāi)發(fā)人員的開(kāi)發(fā)效率和代碼質(zhì)量;在代碼測(cè)試方面，應(yīng)用大模型生成能力，輔助自動(dòng)生成測(cè)試案例，有效提升測(cè)試效率及案例覆蓋度；在數(shù)據(jù)分析方面，上海銀行正在探索大模型與行內(nèi)經(jīng)營(yíng)管理工具--“掌上行”的有效結(jié)合，通過(guò)自然語(yǔ)言交互方式，允許用戶就經(jīng)營(yíng)指標(biāo)自由提問(wèn)，進(jìn)一步降低數(shù)據(jù)分析的門檻，提升數(shù)據(jù)驅(qū)動(dòng)經(jīng)營(yíng)管理的有效性。中信證券探索運(yùn)用大模型實(shí)現(xiàn)股價(jià)預(yù)測(cè)等模型構(gòu)建，根據(jù)用戶輸入的自然語(yǔ)言，生成相應(yīng)SQL語(yǔ)句，準(zhǔn)確地完成用戶數(shù)據(jù)查詢需求，以期適配不同數(shù)據(jù)庫(kù)、完成多表數(shù)據(jù)查詢。國(guó)信證券通過(guò)大模型的輔助代碼生成能力，協(xié)助IT人員、業(yè)務(wù)產(chǎn)品經(jīng)理、運(yùn)營(yíng)人員進(jìn)行代碼編寫(xiě)、數(shù)據(jù)分析、輔助代碼生成檢查等工作，提升系統(tǒng)開(kāi)發(fā)、數(shù)據(jù)分析等內(nèi)部工作效率。智能投研工商銀行綜合應(yīng)用大模型的核心信息提取、智能文本生成等能1專欄五智能投研場(chǎng)景工商銀行綜合應(yīng)用大模型的核心信息提取、智能文本生成等能1專欄五智能投研場(chǎng)景縮短至5分鐘，提升了投研人員對(duì)海量文本數(shù)據(jù)的整合歸納提煉效率。興業(yè)銀行通過(guò)大模型技術(shù)實(shí)現(xiàn)研報(bào)摘要的智能生成，構(gòu)建了一套包括研報(bào)文檔結(jié)構(gòu)化、信息抽取和大語(yǔ)言模型語(yǔ)義理解摘要生成的一體化解決方案，實(shí)現(xiàn)研報(bào)核心內(nèi)容智能提煉，提高了興銀理財(cái)子公司投研團(tuán)隊(duì)查詢、閱讀內(nèi)外部研報(bào)的效率，加快了投資決策效率，一定程度節(jié)省人力成本，同時(shí)提升了客戶體驗(yàn)。國(guó)泰君安證券利用大模型的自然語(yǔ)言到結(jié)構(gòu)化查詢(NL2SQL)等能力，改進(jìn)傳統(tǒng)問(wèn)答系統(tǒng)的精準(zhǔn)性和靈活性，實(shí)現(xiàn)對(duì)投研領(lǐng)域內(nèi)包括行情、公司、基金等數(shù)據(jù)的精確、高效問(wèn)答。華泰證券正探索運(yùn)用大模型對(duì)文本的學(xué)習(xí)理解能力，學(xué)習(xí)歷史研報(bào)的撰寫(xiě)模式、分析邏輯和行文風(fēng)格等內(nèi)容，從而實(shí)現(xiàn)研究報(bào)告初稿的自動(dòng)撰寫(xiě)。目前已初步搭建內(nèi)容召回、內(nèi)容生成的線上撰寫(xiě)服務(wù)框架，打通從財(cái)務(wù)報(bào)告的非結(jié)構(gòu)化文檔解析，利用embedding技術(shù)構(gòu)建財(cái)報(bào)知識(shí)庫(kù)，根據(jù)歷史研報(bào)進(jìn)行高相關(guān)內(nèi)容召回，結(jié)合內(nèi)容召回與大模型服務(wù)，通過(guò)建設(shè)Prompt工程，打通大模型撰寫(xiě)能力鏈路。智能營(yíng)銷結(jié)合金融業(yè)語(yǔ)料進(jìn)行適應(yīng)性訓(xùn)練后，大模型可輔助生成營(yíng)銷話術(shù)和營(yíng)銷文案，幫助客戶更快地獲取最新資訊和產(chǎn)品的信息。同時(shí)，通過(guò)對(duì)話式營(yíng)銷，大模型可優(yōu)化客戶參與度，提升服務(wù)的效率與質(zhì)量，引導(dǎo)其做出決策。此外，隨著投資者數(shù)據(jù)、產(chǎn)品知專欄六智能營(yíng)銷場(chǎng)景平安銀行借助BankGPT優(yōu)秀的文案生成能力，針對(duì)不同客戶，批量生成個(gè)性化營(yíng)銷文案，從而更有針對(duì)性地提升客戶粘性和業(yè)務(wù)轉(zhuǎn)化率，為營(yíng)銷運(yùn)營(yíng)團(tuán)隊(duì)提供支持。同時(shí)，平安銀行利用BankGPT的自然語(yǔ)言理解能力，助力多媒體運(yùn)營(yíng)團(tuán)隊(duì)實(shí)現(xiàn)自動(dòng)化FAQ抽取功能。民生銀行探索運(yùn)用大模型技術(shù)賦能客戶意圖理解營(yíng)銷場(chǎng)景，通過(guò)搜索知識(shí)庫(kù)、產(chǎn)品庫(kù)、聊天記錄等，洞察客戶真實(shí)意圖，自動(dòng)提供廣告等營(yíng)銷文案、自動(dòng)生成個(gè)性化營(yíng)銷內(nèi)容、自動(dòng)提供各類分析報(bào)告，提升營(yíng)銷成功率。平安保險(xiǎn)通過(guò)大模型的自然語(yǔ)言交互、內(nèi)容生成等能力，智能化分析并提取客戶需求，輔助生成保險(xiǎn)產(chǎn)品營(yíng)銷素材，并根據(jù)客戶標(biāo)簽屬性提供針對(duì)該客群的產(chǎn)品推薦以及推薦理由相關(guān)話術(shù)，基于個(gè)人醫(yī)療歷史和分線因素，提供個(gè)性化保險(xiǎn)建議和方案，有助于產(chǎn)品精算人員制定針對(duì)性保險(xiǎn)方案。智能運(yùn)維上海銀行探索將大模型應(yīng)用于故障分析及解決等場(chǎng)景，結(jié)合歷史生產(chǎn)事件解決工單、運(yùn)維文檔或問(wèn)答對(duì)等知識(shí)庫(kù)，當(dāng)故障發(fā)生時(shí)大模型能夠自動(dòng)根據(jù)歷史解決經(jīng)驗(yàn)及知識(shí)庫(kù)給出故障分析及解決方案，從而為運(yùn)維人員提供輔助支持，以提升事件解決效率。專欄七智能運(yùn)維場(chǎng)景，上海銀行探索將大模型應(yīng)用于故障分析及解決等場(chǎng)景，結(jié)合歷史生產(chǎn)事件解決工單、運(yùn)維文檔或問(wèn)答對(duì)等知識(shí)庫(kù)，當(dāng)故障發(fā)生時(shí)大模型能夠自動(dòng)根據(jù)歷史解決經(jīng)驗(yàn)及知識(shí)庫(kù)給出故障分析及解決方案，從而為運(yùn)維人員提供輔助支持，以提升事件解決效率。專欄七智能運(yùn)維場(chǎng)景智能風(fēng)控專欄八智能風(fēng)控場(chǎng)景一定作用。專欄八智能風(fēng)控場(chǎng)景風(fēng)險(xiǎn)。風(fēng)險(xiǎn)。華夏銀行探索利用大語(yǔ)言模型技術(shù)疊加合規(guī)圖譜，以高質(zhì)量?jī)?nèi)外規(guī)數(shù)據(jù)為基礎(chǔ)，以結(jié)構(gòu)化合規(guī)知識(shí)標(biāo)簽為輔助，利用大語(yǔ)言模型語(yǔ)義理解、信息匯總和自然語(yǔ)句生成能力實(shí)現(xiàn)智能化合規(guī)知識(shí)問(wèn)答功能，降低合規(guī)知識(shí)查詢門檻。平安保險(xiǎn)運(yùn)用大模型技術(shù)，基于歷史數(shù)據(jù)和模擬數(shù)據(jù)進(jìn)行風(fēng)險(xiǎn)模擬和壓力測(cè)試，評(píng)估產(chǎn)品設(shè)計(jì)的可靠程度和穩(wěn)定性，以便產(chǎn)品精算人員更好地了解產(chǎn)品可能面臨的風(fēng)險(xiǎn)和挑戰(zhàn)，助力產(chǎn)品精算人員制定相應(yīng)保險(xiǎn)策略。智能投顧國(guó)泰君安證券運(yùn)用大模型的理解分析能力，進(jìn)行金融資訊熱點(diǎn)話題提取和歸納，對(duì)相關(guān)信息做正面/負(fù)面消息的評(píng)分和整理，生成每天/周/月的熱點(diǎn)話題榜單，既能實(shí)時(shí)跟蹤行業(yè)網(wǎng)站熱點(diǎn)，又能回顧過(guò)去一段時(shí)間的熱點(diǎn)話題，基于榜單排名走勢(shì)預(yù)測(cè)股市熱點(diǎn)信息專欄九智能投顧場(chǎng)景。國(guó)泰君安證券運(yùn)用大模型的理解分析能力，進(jìn)行金融資訊熱點(diǎn)話題提取和歸納，對(duì)相關(guān)信息做正面/負(fù)面消息的評(píng)分和整理，生成每天/周/月的熱點(diǎn)話題榜單，既能實(shí)時(shí)跟蹤行業(yè)網(wǎng)站熱點(diǎn)，又能回顧過(guò)去一段時(shí)間的熱點(diǎn)話題，基于榜單排名走勢(shì)預(yù)測(cè)股市熱點(diǎn)信息專欄九智能投顧場(chǎng)景大模型在提升金融服務(wù)效率和體驗(yàn)、降低金融風(fēng)險(xiǎn)和成本、創(chuàng)新金融產(chǎn)品和模式等方面有著顯著作用。大模型在金融領(lǐng)域的（四）應(yīng)用趨勢(shì)一是金融機(jī)構(gòu)將采用先內(nèi)后外、從易到難、場(chǎng)景遷移的方式落地大模型金融應(yīng)用。由于目前大模型直接對(duì)客難度較大、可控性不強(qiáng)，金融機(jī)構(gòu)主要對(duì)內(nèi)應(yīng)用大模型能力，待技術(shù)逐漸成熟，可以考慮對(duì)外輸出。此外，金融機(jī)構(gòu)也將優(yōu)先選擇風(fēng)險(xiǎn)等級(jí)低、二是大小模型協(xié)同進(jìn)化是大模型發(fā)展的一個(gè)必然趨勢(shì)。大模三是多模態(tài)金融大模型的發(fā)展與應(yīng)用仍有較大潛力。大模型穩(wěn)健的金融環(huán)境。四是AIAgent未來(lái)可能推動(dòng)人工智能成為金融業(yè)信息基礎(chǔ)設(shè)施。AIAgentAgent演進(jìn)，AIAgent創(chuàng)造更深度的價(jià)值。（一）金融應(yīng)用規(guī)范與指南亟需完善絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——生成式人工智能服務(wù)內(nèi)容標(biāo)識(shí)方法》（征求意見(jiàn)稿大模型在金融領(lǐng)域的應(yīng)用尚且缺少可實(shí)施落地的標(biāo)準(zhǔn)規(guī)范和指AI（二）金融應(yīng)用場(chǎng)景缺少范式替換傳統(tǒng)的AI（三）高質(zhì)量金融訓(xùn)練數(shù)據(jù)欠缺PDFExcel（四）訓(xùn)練算力支撐普遍不足GPUAIAIAIAI及CPUAI個(gè)層次，適配工作復(fù)雜且難度大，牽一發(fā)而動(dòng)全身。（五）算法可信度和安全性有待提升（一）加強(qiáng)金融應(yīng)用的指導(dǎo)與管理化工作，推動(dòng)金融行業(yè)的AI和兼容性。（二）有序推動(dòng)金融應(yīng)用場(chǎng)景落地的迭代優(yōu)化。（三）積極構(gòu)建高質(zhì)量金融數(shù)據(jù)集（四）產(chǎn)用協(xié)同共筑AI算力基礎(chǔ)設(shè)施AIGPUDCUNPU（五）完善算法優(yōu)化與風(fēng)險(xiǎn)管控體系A(chǔ)I不斷提升金融業(yè)大模型算法安全性、合規(guī)性、專業(yè)性和兼容性。面提供了非常大的幫助。郵儲(chǔ)銀行自主打造了基于大模型的智能知識(shí)問(wèn)答系統(tǒng)“靈Llama2區(qū)活躍的Langchain銀行在金融領(lǐng)域內(nèi)的人機(jī)交互場(chǎng)景提供了自主可控的大模型能力。（一）LangchainLlama2確性及合理性，系統(tǒng)更智能；（二）CPUGPU碼的修改、相關(guān)軟件包的依賴更改，完成了CPUx86arm64架構(gòu)的全適配；（三）6G32G010G情況下即可運(yùn)行系統(tǒng)；（四）更具擴(kuò)展性的特定領(lǐng)域知識(shí)庫(kù)。系統(tǒng)基于Langchain“靈犀”上線以來(lái)，通過(guò)在向量檢索率提升、提示詞優(yōu)化、100錄入系統(tǒng)。若純依賴人工，耗時(shí)長(zhǎng)、效率低、成本高、易出錯(cuò)，而用傳統(tǒng)的OCROCR騰訊云TI平臺(tái)TI-OCR是一款專注于OCR細(xì)分場(chǎng)景建模大的OCR內(nèi)置模型和專家豐富的模型優(yōu)化經(jīng)驗(yàn)，能助力非AI專業(yè)的客戶輕松實(shí)現(xiàn)自主構(gòu)建自定義業(yè)務(wù)下的OCR應(yīng)用解決方案。（一）支持四種識(shí)別模式智能結(jié)構(gòu)化從單一版式或混合版式的圖片中提取出Key字段、Value字段，以及Key-Value的鍵值對(duì)關(guān)系。固定版式結(jié)構(gòu)化定的單一版式類型的數(shù)據(jù)信息進(jìn)行提取。檢測(cè)/識(shí)別中英文的字段提取。智能分揀類別。（二）先進(jìn)的技術(shù)架構(gòu)整體架構(gòu)上，TI-OCRMaster-Worker式架構(gòu)。MasterHTTP協(xié)議的產(chǎn)品功能接口，WorkerTI-OCR100個(gè)Worker節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)可以配置一塊或多塊GPU卡。模型訓(xùn)練可以使用單機(jī)多卡以提升訓(xùn)練速度，也可以在多個(gè)節(jié)點(diǎn)上同時(shí)運(yùn)行多個(gè)訓(xùn)練/推理任務(wù)，以提升系統(tǒng)吞吐量。數(shù)據(jù)存儲(chǔ)方面，TI-OCR訓(xùn)練平臺(tái)使用MySQL存儲(chǔ)元數(shù)據(jù)，使用普通硬盤存儲(chǔ)圖像、模型等數(shù)據(jù)。部署方面，TI-OCR訓(xùn)練平臺(tái)支持單機(jī)或者集群模式。在單機(jī)模式下，平臺(tái)只需要一臺(tái)GPU機(jī)器即可安裝運(yùn)行，成本低且1-2機(jī)器，外加可橫向擴(kuò)展的多臺(tái)GPU機(jī)器，平臺(tái)占用資源少，性價(jià)比高。行模式，Master/推理任務(wù)的運(yùn)行。圖1TI-OCR訓(xùn)練平臺(tái)的技術(shù)架構(gòu)（三）主要技術(shù)特點(diǎn)騰訊云TI-OCR93；二是通過(guò)prompt設(shè)計(jì)，不經(jīng)過(guò)訓(xùn)練，支持復(fù)雜下游任務(wù)小樣本學(xué)習(xí)泛化召回率可達(dá)95三是通過(guò)多模態(tài)技術(shù)小樣本精調(diào)解決傳統(tǒng)OCR3-20。該行利用騰訊云TOR提取并轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)，實(shí)現(xiàn)對(duì)各種格式數(shù)據(jù)的高精度識(shí)別，識(shí)別準(zhǔn)確率95以上通過(guò)應(yīng)用騰訊云該行在單據(jù)處理中141模型能力賦能智能客服場(chǎng)景。通過(guò)騰訊云TIAPIAI圖2銀行客服智能解決方案架構(gòu)AI礎(chǔ)上，極大的提升用戶交互體驗(yàn)。NLP二是智能外呼和智能質(zhì)檢。一方面，該銀行利用NLP、情緒識(shí)別、語(yǔ)音識(shí)別等技術(shù)，將人工客服的服務(wù)的錄音進(jìn)行轉(zhuǎn)寫(xiě)，席提供即時(shí)的協(xié)助，提升工作效率。GPUGPUH100、A100、L40SGPUAI中科可控聯(lián)合捷通華聲、百川智能為金融領(lǐng)域的客戶提供“量知大模型平臺(tái)”，全部國(guó)產(chǎn)化，符合信創(chuàng)要求，全方位安全保障；垂直領(lǐng)域訓(xùn)練模型定制，用戶全面參與；打通數(shù)據(jù)接口，結(jié)合搜索引擎，做到實(shí)時(shí)數(shù)據(jù)呈現(xiàn)與風(fēng)險(xiǎn)及時(shí)預(yù)警。該平臺(tái)包含基礎(chǔ)的LLM服務(wù)以及典型大模型應(yīng)用，不僅包含http方便進(jìn)行二次開(kāi)發(fā)，更便捷地集成到業(yè)務(wù)系統(tǒng)。（一）自帶應(yīng)用，效率即刻提升用，用戶無(wú)需開(kāi)發(fā)，幫助企業(yè)內(nèi)部即刻提升工作效率。（二）多套底座，擇優(yōu)使用量知大模型平臺(tái)適配了Baichuan2LLAMA2不同的場(chǎng)景使用不同的微調(diào)模型，從而達(dá)到最優(yōu)效果。（三）API封裝，便捷開(kāi)發(fā)應(yīng)的API（四）訓(xùn)推一體，及時(shí)優(yōu)化針對(duì)非通用的知識(shí)以及推理過(guò)程中收集到的估，在使用過(guò)程中及時(shí)優(yōu)化模型，回答效果越用越好。（五）信創(chuàng)環(huán)境，安全可控CPUDCUGPU的應(yīng)用示范，化解人工智能芯片供應(yīng)“卡脖子”風(fēng)險(xiǎn)的路徑。（六）安全使用，拒絕敏感律紅線。前、話中和話后階段都可以發(fā)揮重要作用。任務(wù)，實(shí)現(xiàn)知識(shí)圖譜的自動(dòng)構(gòu)建。數(shù)據(jù)庫(kù)來(lái)進(jìn)