中國金融大模型發(fā)展白皮書

開啟智能金融新時(shí)代?目錄核心觀點(diǎn) ??第一章百舸爭流：AI大模型發(fā)展概述 ???.?AI大模型與新質(zhì)生產(chǎn)力 ???.?國內(nèi)外AI大模型的發(fā)展現(xiàn)狀 ???.?AI大模型應(yīng)用發(fā)展整體現(xiàn)狀 ??第二章聚焦行業(yè)：金融行業(yè)大模型概述 ???.?金融行業(yè)大模型應(yīng)用的特殊性 ???.?金融行業(yè)大模型應(yīng)用落地面臨的挑戰(zhàn) ??第三章落地進(jìn)展：大模型催生效率變革金融行業(yè)務(wù)實(shí)求效 ???.?大模型在金融行業(yè)的典型應(yīng)用場景梳理 ???.?生成式AI在金融行業(yè)場景應(yīng)用流程梳理 ??第四章金融行業(yè)大模型的應(yīng)用路徑與關(guān)鍵能力 ???.?金融機(jī)構(gòu)落地大模型的應(yīng)用路徑 ???.?金融機(jī)構(gòu)選擇或部署大模型時(shí)的關(guān)鍵能力要素 ??第五章展望未來：金融行業(yè)大模型的發(fā)展趨勢 ???.?大模型技術(shù)創(chuàng)新與發(fā)展趨勢 ???.?行業(yè)應(yīng)用場景的拓展趨勢 ??第六章關(guān)于中電金信 ???.?中電金信公司介紹 ???.?中電金信人工智能產(chǎn)品及能力介紹 ???.?中電金信AI大模型在金融行業(yè)的服務(wù)案例 ??核心觀點(diǎn)AI大模型成為新質(zhì)生產(chǎn)力的重要組成部分，國內(nèi)外科技公司正加速布局AI大模型已成為新質(zhì)生產(chǎn)力的重要組成部分，能夠大幅提高生產(chǎn)效率，優(yōu)化資源配置，降低生產(chǎn)成本，為企業(yè)高質(zhì)量發(fā)展提供強(qiáng)大的技術(shù)支持和動(dòng)力。當(dāng)前，美國、中國、日本、歐盟等全球主要地區(qū)的科技公司正加大大模型技術(shù)的創(chuàng)新及應(yīng)用。在未來GenAI投資分配上，中國和全球企業(yè)幾乎都會(huì)平均分配在生產(chǎn)力提升應(yīng)用場景、跨行業(yè)水平職能應(yīng)用場景、以及垂直行業(yè)專屬應(yīng)用場景上。金融行業(yè)AI大模型的研發(fā)投入和應(yīng)用較為顯著，且具有一定的應(yīng)用特殊性和應(yīng)用挑戰(zhàn)近兩年，金融行業(yè)在AI大模型的研發(fā)投入和應(yīng)用方面亦走在市場前列。根據(jù)IDC數(shù)據(jù)顯示，????年，中國金融行業(yè)AIandGenerativeAI???.??億元，到????年將達(dá)到???.??億元，增幅達(dá)到???%，金融行業(yè)屬于信息密集型、風(fēng)險(xiǎn)規(guī)避及強(qiáng)監(jiān)管行業(yè)，在推進(jìn)大模型落地過程中，相比其他領(lǐng)域，金融行業(yè)對數(shù)據(jù)質(zhì)量、推理準(zhǔn)確性及響應(yīng)速度，以及在管控、合規(guī)、安全層面的要求都更高。同時(shí)，根據(jù)IDC調(diào)研數(shù)據(jù)顯示，數(shù)據(jù)治理、模型治理、以及合規(guī)應(yīng)用是金融機(jī)構(gòu)落地大模型/生成式AI更需求關(guān)注的要素。AI大模型在金融行業(yè)的應(yīng)用場景正從簡單到復(fù)雜加速分步推進(jìn)IDC認(rèn)為，生成式AI的行業(yè)應(yīng)用往往都是循序漸進(jìn)的過程，一般是逐漸從內(nèi)部輔助運(yùn)營到外部對客提效、從業(yè)務(wù)邊緣到核心，相應(yīng)地AI對金融機(jī)構(gòu)的價(jià)值也逐漸增大。在未來??個(gè)月內(nèi)，支付清算、智能投研、內(nèi)部研發(fā)（代碼生成、測試等）、數(shù)據(jù)分析（報(bào)表生成與分析、數(shù)據(jù)建模、數(shù)據(jù)決策等）、欺詐/洗錢/威脅監(jiān)測、資產(chǎn)管理（資產(chǎn)盡調(diào)、資產(chǎn)評估及定價(jià)等）是金融機(jī)構(gòu)主要的落地場景。在應(yīng)用流程方面，IDC認(rèn)為，金融行業(yè)生成式AI應(yīng)用場景的落地可以從場景應(yīng)用評估與選擇（如技術(shù)解決方案評估、項(xiàng)目管理及風(fēng)險(xiǎn)評估、投資回報(bào)分析）、以及面向場景的工程化落地（如模型選擇、技術(shù)路線、數(shù)據(jù)及算力準(zhǔn)備、模型訓(xùn)練及調(diào)優(yōu)、以及系統(tǒng)集成與部署、組織協(xié)同等）等層面分步推進(jìn)。金融機(jī)構(gòu)應(yīng)根據(jù)其資源能力選擇不同的大模型應(yīng)用路徑，并需打造多樣化的能力要素當(dāng)前，不同類型的金融機(jī)構(gòu)在推進(jìn)大模型的落地中，有著不同的路徑選擇，其可根據(jù)自身戰(zhàn)略目標(biāo)、業(yè)務(wù)需求、技術(shù)能力、資源稟賦、風(fēng)險(xiǎn)偏好來決定是否自主建設(shè)、基于已有模型微調(diào)，或是采用其他方式來利用GenAI能力。同時(shí)，IDC認(rèn)為，金融機(jī)構(gòu)在落地大模型的過程中，需要綜合考慮打造數(shù)據(jù)價(jià)值鏈管理、模型的選擇與部署、AI平臺(tái)搭建、以及AI治理等要素能力。尤其是在數(shù)據(jù)價(jià)值鏈管理方面，IDC認(rèn)為，金融機(jī)構(gòu)的數(shù)據(jù)價(jià)值鏈管理是生成式AI在金融場景中有效發(fā)揮價(jià)值的基石，其核心目的是提升數(shù)據(jù)質(zhì)量、數(shù)據(jù)可用性以及確保數(shù)據(jù)的合規(guī)獲取，有利于金融機(jī)構(gòu)面向不同的應(yīng)用場景快速構(gòu)建高質(zhì)量的數(shù)據(jù)集，并為后續(xù)金融大模型的規(guī)模應(yīng)用奠定堅(jiān)實(shí)的基礎(chǔ)。多模態(tài)技術(shù)、AI智能體、以及通過大小模型協(xié)同應(yīng)用和構(gòu)建大模型生態(tài)資源共享平臺(tái)是金融機(jī)構(gòu)落地大模型的主要趨勢隨著大模型技術(shù)的發(fā)展，大模型的參數(shù)規(guī)模也將顯著增長，多模態(tài)技術(shù)及智能體亦將在金融機(jī)構(gòu)中深入應(yīng)用。一方面，多模態(tài)之間的融合將使得AI大模型能更深刻地捕捉復(fù)雜場景背景、細(xì)節(jié)和情感，使其更快的感知和適應(yīng)場景，并能應(yīng)用于更加復(fù)雜的金融場景。另一方面，AI智能體通過“感知-認(rèn)知-推理-決策-組織/行動(dòng)”的閉環(huán)，及其在數(shù)據(jù)處理、智能決策與自然交互等方面的卓越能力，預(yù)示著它將在客戶服務(wù)、業(yè)務(wù)流程優(yōu)化及業(yè)務(wù)效率提升等多個(gè)關(guān)鍵領(lǐng)域發(fā)揮核心作用，為金融機(jī)構(gòu)帶來前所未有的價(jià)值創(chuàng)造。此外，IDC認(rèn)為，通過大小模型協(xié)同也能驅(qū)動(dòng)金融機(jī)構(gòu)在更加多樣復(fù)雜的場景中的應(yīng)用。同時(shí)，通過構(gòu)建大模型生態(tài)資源共享平臺(tái)，向金融機(jī)構(gòu)提供大模型應(yīng)用所需的全套資源，是金融機(jī)構(gòu)大規(guī)模應(yīng)用生成式AI的主要路徑之一。??第一章百舸爭流AI?.?AI大模型與新質(zhì)生產(chǎn)力當(dāng)前，人工智能正以前所未有的速度和規(guī)模滲透到我們生活工作中。人工智能是數(shù)字基礎(chǔ)設(shè)施建設(shè)的重要組成部分，是新一輪科技革命和產(chǎn)業(yè)革命的核心驅(qū)動(dòng)力，在人工智能技術(shù)的加持下，全球的數(shù)字化轉(zhuǎn)型已進(jìn)入倍增創(chuàng)新階段，同時(shí)以多模態(tài)大模型為代表的新型人工智能技術(shù)正高速發(fā)展。????年?月??習(xí)時(shí)，進(jìn)一步強(qiáng)調(diào)發(fā)展新質(zhì)生產(chǎn)力是推動(dòng)高質(zhì)量發(fā)展的內(nèi)在要求和重要著力點(diǎn)。而以AI大模型為主的新技術(shù)，作為各行業(yè)的新質(zhì)生產(chǎn)力的重要組成部分，能夠大幅提高生產(chǎn)效率，優(yōu)化資源配置，降低生產(chǎn)成本，為企業(yè)高質(zhì)量發(fā)展提供強(qiáng)大的技術(shù)支持和動(dòng)力。尤其是隨著AIAgent的潛力被不斷挖掘，以AIAgent為核心的人機(jī)協(xié)同將為業(yè)務(wù)洞察與決策提供新的能力支撐，為金融機(jī)構(gòu)構(gòu)建領(lǐng)先的新質(zhì)生產(chǎn)力。未來推動(dòng)金融業(yè)逐步走向智能化金融的演化，實(shí)現(xiàn)超高數(shù)據(jù)處理與實(shí)時(shí)決策的融合，推動(dòng)著普惠金融、金融供給側(cè)改革、客戶體驗(yàn)/個(gè)性化服務(wù)不斷深化。?.?國內(nèi)外AI大模型的發(fā)展現(xiàn)狀當(dāng)前，大模型技術(shù)加速發(fā)展，美國、中國、日本、歐盟等全球主要地區(qū)的科技公司正加大大模型技術(shù)的創(chuàng)新及應(yīng)用。美國在生成式AI方面起步較早，OpenAI、GoogleDeepMind、Meta等科技公司在生成式AI領(lǐng)域取得了里程碑式的進(jìn)展。在中國，百度、阿里、華為、騰訊、京東、科大訊飛、字節(jié)跳動(dòng)等科技公司也紛紛發(fā)布了基座大模型，且加速推進(jìn)其在各行各業(yè)的落地。而歐盟的科技公司也加速應(yīng)用生成式AI，且其更傾向于在細(xì)分領(lǐng)域（如醫(yī)療、金融等）應(yīng)用生成式AI，而不是開發(fā)通用的大規(guī)模生成模型。例如，英國的DeepMind是生成式AI領(lǐng)域的重要力量，其生成模型在文本生成、游戲AI等方面表現(xiàn)突出。日本在生成式AI的技術(shù)開發(fā)上相對滯后，其在機(jī)器人和自動(dòng)化領(lǐng)域具備全球領(lǐng)先的技術(shù)實(shí)力，但在自然語言生成和通用圖像生成等方面，尚未推出具備國際競爭力的大規(guī)模模型。不過，日本的一些企業(yè)和科研機(jī)構(gòu)也在逐漸跟進(jìn)，根據(jù)日本政府發(fā)表的《信息通信白皮書》表示，未來的增長潛力不容忽視。??.?%的受訪者表示，在合適的況下，愿意嘗試使用生成式AI。表?AI發(fā)展現(xiàn)狀地區(qū)技術(shù)實(shí)力應(yīng)用場景政策支持/監(jiān)管中國等語言生成模型快速發(fā)展廣泛應(yīng)用于社交媒體、電客服等領(lǐng)域政府大力推動(dòng)AI創(chuàng)新，出臺(tái)支持政策，關(guān)注數(shù)據(jù)保護(hù)與AI倫理美國全球領(lǐng)先，擁有OpenAI的GPT-?、GoogleGemini等頂尖模型廣泛應(yīng)用于文案生成、圖像生成、代碼生成、音樂和視頻創(chuàng)作等政府出臺(tái)AI“權(quán)利法案藍(lán)創(chuàng)新與社會(huì)責(zé)任歐盟技術(shù)發(fā)展相對滯后，DeepMind等公司在細(xì)分領(lǐng)域有所進(jìn)展主要用于醫(yī)療影像生成、數(shù)據(jù)合成、建筑設(shè)計(jì)、自動(dòng)化報(bào)告撰寫等專業(yè)領(lǐng)域《人工智能法案》強(qiáng)調(diào)高風(fēng)險(xiǎn)AI平性和透明性日本技術(shù)進(jìn)展緩慢，集中于機(jī)器人、自動(dòng)化等領(lǐng)域，缺乏國際競爭力的生成模型主要應(yīng)用于動(dòng)漫創(chuàng)作、虛擬偶像、工業(yè)設(shè)計(jì)、醫(yī)療健康等領(lǐng)域根據(jù)日本政府發(fā)表的年度《信息通信白皮書》數(shù)據(jù)顯示，日本國內(nèi)生成式AI使用率和企業(yè)使用率都相對較低來源：IDC根據(jù)公開資料整理?.?AI大模型應(yīng)用發(fā)展整體現(xiàn)狀大模型作為帶動(dòng)產(chǎn)業(yè)/組織服務(wù)效率及范式變革的重要技術(shù)，已經(jīng)具備較高的識(shí)別準(zhǔn)確率和較強(qiáng)的場景泛化性，在多模態(tài)的任務(wù)下也有明顯的突破，全球諸多企業(yè)已在金融、電商、能源等行業(yè)“試水”。圖?您的組織目前評估或使用生成式AI（GenAI）的情況如何?全球中國已經(jīng)在生產(chǎn)環(huán)境中引入了幾個(gè)GenAI增強(qiáng)的應(yīng)用，并專注于擴(kuò)展?%??%正在大力投資GenAI，并制定了培訓(xùn)和購買GenAI增強(qiáng)軟件的計(jì)劃??%??%正在對GenAI做POC測試，但還沒有一個(gè)固定的支出計(jì)劃??%??%我們還沒有做任何GenAI相關(guān)工作?%??%來源：IDC’sFutureEnterpriseResiliency&SpendingSurvey,Wave?,????年?n???（???,???,??????]）（如圖?），全球已經(jīng)有??%的企業(yè)在生產(chǎn)環(huán)境中引入了幾GenAI增強(qiáng)的應(yīng)用，并專注于擴(kuò)展；中國的這一比例僅為?%，做POC測試的企業(yè)達(dá)??%。在未來GenAI投資分配上，中國和全球企業(yè)幾乎都會(huì)平均分配在三類應(yīng)用場景上（大約各?/?），如圖?。圖?考慮您在未來??個(gè)月GenAI的投資，這些投資將如何分配到以下類型的應(yīng)用場景中?全球中國生產(chǎn)力提升應(yīng)用場景任務(wù)生產(chǎn)力和運(yùn)作效率??%??%跨行業(yè)水平職能應(yīng)用場景情境化的體驗(yàn)，改進(jìn)的決策改進(jìn)的功能有效性??%??%垂直行業(yè)專屬應(yīng)用場景新的商業(yè)模式、產(chǎn)品或服務(wù)，特定于行業(yè)的護(hù)城河??%??%來源：IDC’sFutureEnterpriseResiliency&SpendingSurvey,Wave?,????年?n???（???,???,??????]）目前，基礎(chǔ)大模型建設(shè)已經(jīng)較為完整，諸多云服務(wù)商、AI技術(shù)服務(wù)商、數(shù)據(jù)服務(wù)商等均推出其基座大模型，且各具特色，未來將會(huì)進(jìn)入大模型應(yīng)用跑馬圈地階段，行業(yè)應(yīng)用場景數(shù)量也將爆炸性地多元化增長，且會(huì)逐漸從輔助運(yùn)營類的業(yè)務(wù)場景向決策管理場景深入。??第二章聚焦行業(yè)金融行業(yè)大模型概述金融業(yè)在我國經(jīng)濟(jì)中舉足輕重，金融機(jī)構(gòu)通過提供資金流動(dòng)和管理服務(wù)，為個(gè)人、企業(yè)和政府的各種經(jīng)濟(jì)活動(dòng)提供必要的資金支持。近兩年，金融行業(yè)不斷地利用新興技術(shù)推進(jìn)業(yè)務(wù)高質(zhì)量發(fā)展，尤其是在AI大模型的研發(fā)投入和應(yīng)用方面亦走在市場前列。根據(jù)IDC數(shù)據(jù)顯示，????年，中國金融行業(yè)AIand投資規(guī)模達(dá)到???.??億元，到????年將達(dá)到???.??億元，增幅達(dá)到???%。?.?金融行業(yè)大模型應(yīng)用的特殊性如今，金融科技已經(jīng)從“立柱架梁”邁入了“積厚成勢”新階段，越來越多的金融機(jī)構(gòu)積極使用AI大模型等新技術(shù)助力其實(shí)現(xiàn)高質(zhì)量發(fā)展。AI大模型雖在金融行業(yè)有較多的應(yīng)用場景和應(yīng)用價(jià)值，但是，金融行業(yè)屬于信息密集型、風(fēng)險(xiǎn)規(guī)避及強(qiáng)監(jiān)管行業(yè)，在推進(jìn)大模型落地過程中，相比其他領(lǐng)域，金融行業(yè)對數(shù)據(jù)質(zhì)量、推理準(zhǔn)確性及響應(yīng)速度，以及在風(fēng)控、合規(guī)、安全層面的要求都更高。同時(shí)，根據(jù)IDC調(diào)研數(shù)據(jù)顯示，數(shù)據(jù)治理、模型治理以及合規(guī)應(yīng)用是金融機(jī)構(gòu)落地大模型/生成式AI更需求關(guān)注的要素。在數(shù)據(jù)層面，金融行業(yè)處理的數(shù)據(jù)往往涉及客戶的隱私信息、交易記錄等敏感數(shù)據(jù)，數(shù)據(jù)來源多樣且數(shù)據(jù)質(zhì)量參差不齊，而數(shù)據(jù)規(guī)模、數(shù)據(jù)質(zhì)量和多樣性會(huì)影響大模型在具體場景應(yīng)用的效果和性能。若輸入的基礎(chǔ)數(shù)據(jù)不準(zhǔn)確或時(shí)效性較差或存在數(shù)據(jù)操控問題，那將直接影響模型微調(diào)效果，以及模型輸出的準(zhǔn)確性。同時(shí)，訓(xùn)練數(shù)據(jù)可能存在性別、種族及主觀因素等方面的偏見。如果這些偏見被應(yīng)用到金融決策中，可能導(dǎo)致模型在決策和預(yù)測中產(chǎn)生不公平或歧視性的結(jié)果，如何解決數(shù)據(jù)的合規(guī)獲取及保護(hù)信息/內(nèi)容版權(quán)，并合理設(shè)置相關(guān)的訴訟機(jī)制和監(jiān)管及罰款機(jī)制，也是金融機(jī)構(gòu)落地大模型需要解決的問題。因此在數(shù)據(jù)準(zhǔn)備階段，涉及數(shù)據(jù)獲取、數(shù)據(jù)脫敏/數(shù)據(jù)處理、數(shù)據(jù)清洗和數(shù)據(jù)標(biāo)注等復(fù)雜工作，在此過程中尤其需要注重?cái)?shù)據(jù)隱私保護(hù)，確保數(shù)據(jù)安全和符合隱私法規(guī)。在模型層面，金融行業(yè)業(yè)務(wù)復(fù)雜度更高，金融領(lǐng)域的決策和分析通常要求精準(zhǔn)的回答和實(shí)時(shí)的響應(yīng)，對模型推理的推理速度和精度都有較高的要求。如果金融大模型/生成式AI做出虛假的、誤導(dǎo)性的陳述，或推理與響應(yīng)速度較慢，就會(huì)造成嚴(yán)重的決策損失和較差的用戶體驗(yàn)。在應(yīng)用人工智能技術(shù)時(shí)，大模型因其黑盒效應(yīng)（復(fù)雜的模型結(jié)構(gòu)和龐大的參數(shù)，難以線性化表達(dá)），可解釋性、透明性及安全性也有待提高，金融機(jī)構(gòu)需著重解決大模型的安全性和可解釋性、透明性，以防范模型和算法風(fēng)險(xiǎn)。在安全與合規(guī)層面，金融領(lǐng)域?qū)τ跀?shù)據(jù)安全、監(jiān)管合規(guī)和風(fēng)險(xiǎn)控制具有嚴(yán)格的要求，需要遵守各種法律法規(guī)和國家金融監(jiān)管機(jī)構(gòu)的要求。大模型在應(yīng)用中必須確保符合風(fēng)控和合規(guī)要求，防止欺詐、洗錢等非法活動(dòng)，并保護(hù)客戶利益。同時(shí)，隨著網(wǎng)絡(luò)攻擊手段的不斷升級，大模型在部署和運(yùn)行過程中需要采取嚴(yán)格的安全措施，防止數(shù)據(jù)泄露、篡改和非法訪問。此外，在當(dāng)前市場中，圍繞提升客戶體驗(yàn)、增強(qiáng)數(shù)字化經(jīng)營能力，深度服務(wù)客戶已成為推動(dòng)金融機(jī)構(gòu)發(fā)展的關(guān)鍵要素，金融行業(yè)大模型落地各個(gè)環(huán)節(jié)需要以客戶體驗(yàn)為中心，且GenAI應(yīng)用又促使金融服務(wù)模式及客戶體驗(yàn)的升級。?.?金融行業(yè)大模型應(yīng)用落地面臨的挑戰(zhàn)大模型在金融機(jī)構(gòu)中的應(yīng)用場景廣泛，且應(yīng)用成本較高，所需關(guān)注的安全合規(guī)問題較多，金融機(jī)構(gòu)需以謹(jǐn)慎的態(tài)度去推進(jìn)大模型的應(yīng)用落地。如何選擇合適的應(yīng)用場景及如何推進(jìn)其在金融場景中的有效落地，是當(dāng)前金融機(jī)構(gòu)在大模型應(yīng)用落地中重點(diǎn)關(guān)注的問題。首先，在應(yīng)用成本考量方面，金融機(jī)構(gòu)訓(xùn)練模型需要大量的算力資源，資源調(diào)度需要使用更優(yōu)化的硬件設(shè)備來提升訓(xùn)練速度。尤其是在處理千億級參數(shù)的大模型時(shí)，對算力的需求更是呈指數(shù)級增長，其所投入的成本也較高。根據(jù)IDC調(diào)研顯示，算力限制及技術(shù)投入成本高是金融機(jī)構(gòu)在推進(jìn)大模型/生成式AI過程中的最主要的兩大阻礙因素。其次，在應(yīng)用場景選擇方面，在推進(jìn)大模型落地時(shí)，有哪些大模型應(yīng)用場景可供選擇，如何選擇合適的大模型落地場景是諸多金融機(jī)構(gòu)面臨的問題，需要重點(diǎn)考慮模型方案（如模型選擇、模型適配性、模型能力域及性能、模型更新速度等），并面臨很多數(shù)據(jù)難題（如數(shù)據(jù)質(zhì)量、數(shù)據(jù)可用性、數(shù)據(jù)安全及合規(guī)等）和業(yè)務(wù)難題（如業(yè)務(wù)需求、應(yīng)用價(jià)值評估、以及ROI等），在此過程中也需要考慮應(yīng)用場景的優(yōu)先級及推進(jìn)策略問題。同時(shí)，在應(yīng)用路徑選擇方面，金融機(jī)構(gòu)在推進(jìn)大模型落地時(shí)，面向不同的應(yīng)總體來說，生成式AI雖然可以提供低成本、高價(jià)值的解決方案，但在應(yīng)用成本考量、應(yīng)用場景選擇、應(yīng)用路徑選擇等方面仍面臨諸多問題。金融機(jī)構(gòu)需綜合考慮應(yīng)用場景選擇、成本控制、安全合規(guī)等多方面因素，采取科學(xué)、謹(jǐn)慎的策略，以實(shí)現(xiàn)技術(shù)創(chuàng)新與業(yè)務(wù)發(fā)展的雙贏。??第三章落地進(jìn)展大模型催生效率變革金融行業(yè)務(wù)實(shí)求效?.?大模型在金融行業(yè)的典型應(yīng)用場景梳理金融行業(yè)生成式AI通用類應(yīng)用場景梳理大模型/生成式AI在金融行業(yè)應(yīng)用具有極高的潛力和價(jià)值，當(dāng)前諸多金融機(jī)構(gòu)正以大模型/生成式AI技術(shù)的工具輔助、信息處理、業(yè)務(wù)決策等特性，應(yīng)用于內(nèi)部運(yùn)營類場景（文案、代碼、翻譯等通用類場景）、信息和業(yè)務(wù)處理類場景（智能化知識(shí)抽取、金融知識(shí)的理解和生成、政策研報(bào)解讀）、管理和業(yè)務(wù)決策類場景（信貸審批、理財(cái)投顧等決策類場景），從而為金融機(jī)構(gòu)帶來運(yùn)營效率提升、產(chǎn)品/服務(wù)模式創(chuàng)新、客戶體驗(yàn)提升等價(jià)值。根據(jù)IDC調(diào)研數(shù)據(jù)顯示，在當(dāng)前，信息和業(yè)務(wù)處理類場景及內(nèi)部運(yùn)營類場景是當(dāng)前金融機(jī)構(gòu)主要的應(yīng)用方向。而在未來個(gè)月，管理和業(yè)務(wù)決策類場景的應(yīng)用比例有所提升，尤其是保險(xiǎn)機(jī)構(gòu)在該類場景的應(yīng)用進(jìn)程較銀行及證券機(jī)構(gòu)相對更快。（如圖?、圖?）圖?目前，貴公司應(yīng)用落地最多的大模型/GenAI用例是什么？信息和業(yè)務(wù)助理類場景（智能化知識(shí)抽取、金融知識(shí)的理和生產(chǎn)、政策研報(bào)分析）內(nèi)部運(yùn)營類場景（文案、代碼、翻譯等通用類場景）管理和業(yè)務(wù)決策類場景（信貸審批、理財(cái)投資等決策類場景）?.?%?.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%銀行（含銀行金融科技子公司）保險(xiǎn) 證券（含央行系機(jī)構(gòu)、交易所、基金、期貨）來源：IDC，????圖?貴公司在未來??個(gè)月內(nèi)應(yīng)用落地最多的大模型/GenAI用例是什么？信息和業(yè)務(wù)助理類場景（智能化知識(shí)抽取、金融知識(shí)的理和生產(chǎn)、政策研報(bào)分析）內(nèi)部運(yùn)營類場景（文案、代碼、翻譯等通用類場景）管理和業(yè)務(wù)決策類場景（信貸審批、理財(cái)投資等決策類場景）?.?%?.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%銀行（含銀行金融科技子公司）保險(xiǎn) 證券（含央行系機(jī)構(gòu)、交易所、基金、期貨）來源：IDC，????同時(shí)，根據(jù)IDC調(diào)研數(shù)據(jù)顯示，目前及未來??個(gè)月內(nèi)，金融機(jī)構(gòu)落地大模型/式AI的場景按照調(diào)研統(tǒng)計(jì)比例如下圖所示。其中，智能客服、內(nèi)部運(yùn)營（搜索與問答、知識(shí)管理/內(nèi)容創(chuàng)作、輿情管理、HR等）、智能投顧/財(cái)富管理、智能營銷（內(nèi)容營銷、產(chǎn)品營銷等）以及風(fēng)險(xiǎn)管理（風(fēng)險(xiǎn)評估、風(fēng)險(xiǎn)識(shí)別、風(fēng)險(xiǎn)預(yù)警等），是金融機(jī)構(gòu)當(dāng)前落地較成熟的場景（按照調(diào)研比例從高到低排序）。而在未來??個(gè)月內(nèi)，支付清算、智能投研、內(nèi)部研發(fā)（代碼生成、測試等）析（報(bào)表生成與分析、數(shù)據(jù)建模、數(shù)據(jù)決策等）、欺詐/洗錢/威脅監(jiān)測、資產(chǎn)管理（資產(chǎn)盡調(diào)、資產(chǎn)評估及定價(jià)等）是金融機(jī)構(gòu)主要的落地場景（按照調(diào)研比例從高到低排序）。圖?貴機(jī)構(gòu)當(dāng)前及未來??個(gè)月內(nèi)的大模型/生成式AI應(yīng)用場景情況???.?%??.?%??.?%??.?%??.?%?.?%

支付清算

智能投研

內(nèi)部研發(fā)數(shù)據(jù)分析

欺詐/洗錢/威脅監(jiān)測

資產(chǎn)管理

監(jiān)管合規(guī)監(jiān)測

風(fēng)險(xiǎn)管理

智能營銷智能投顧

內(nèi)部運(yùn)營

智能客服未來??個(gè)月內(nèi)落地 已經(jīng)落地

來源：IDC，????圖?是IDC根據(jù)調(diào)研結(jié)果，并從復(fù)雜度/成本、部署進(jìn)程維度列出了金融行業(yè)主要場景的分布圖。其中智能客服、智能辦公、智能營銷等場景落地復(fù)雜度較低、應(yīng)用進(jìn)程較快；而智能投研、智能投顧、智能風(fēng)控等場景落地復(fù)雜度較高，應(yīng)用進(jìn)程也較慢。??圖?生成式AI在金融場景部署進(jìn)程及應(yīng)用復(fù)雜度概覽智能風(fēng)控智能投顧智能運(yùn)維智能投研智能營銷智能客服智能研發(fā)智能辦公???????????????????????-??.????.????.????.?????.?????.??復(fù)雜度/成本來源：IDC，????銀行業(yè)生成式AI應(yīng)用場景梳理IDC認(rèn)為，生成式AI的行業(yè)應(yīng)用往往都是循序漸進(jìn)的過程，一般是逐漸從內(nèi)部輔助運(yùn)營到外部對客提效、從業(yè)務(wù)邊緣到核心；相應(yīng)地，AI對金融機(jī)構(gòu)的價(jià)值也逐漸增大。如下圖，IDC認(rèn)為，銀行業(yè)生成式AI應(yīng)用可以貫穿到銀行業(yè)務(wù)鏈條的各個(gè)環(huán)節(jié)，包括從面向員工的管理和支持到面向市場的數(shù)字營銷和運(yùn)營自動(dòng)化、從產(chǎn)品研發(fā)到風(fēng)險(xiǎn)合規(guī)管理等環(huán)節(jié)。第一階段（????年）的應(yīng)用場景有：控、合規(guī)監(jiān)測、網(wǎng)絡(luò)欺詐識(shí)別、現(xiàn)金流動(dòng)性預(yù)測、個(gè)性化營銷等。以現(xiàn)金流勢和評論（如監(jiān)管/決策層的評論），將其轉(zhuǎn)化為準(zhǔn)確、可靠和可操作的領(lǐng)先指標(biāo)，從而為銀行/客戶提供投資、信貸、流動(dòng)性和風(fēng)險(xiǎn)方面的建議和決策。??第二階段（????年）的應(yīng)用場景有：服、貸款專員助手、客戶關(guān)系管理、SAR報(bào)告自動(dòng)化等。以貸款專員助手為例，GenAI可以通過訪問客戶賬戶歷史記錄，評估其需求/偏好，并就未來的貸款和其他銀行產(chǎn)品提供營銷建議。貸款專員在通過多渠道為客戶提供信貸審核或信貸產(chǎn)品推薦時(shí)，商業(yè)銀行可以通過相關(guān)GenAI應(yīng)用為其提供培訓(xùn)工具和帶有風(fēng)險(xiǎn)提示及營銷策略的信息。第三階段（????年及以后）的應(yīng)用場景有：風(fēng)險(xiǎn)識(shí)別、財(cái)務(wù)合同管理/財(cái)務(wù)預(yù)測、銷售合規(guī)等。以風(fēng)險(xiǎn)模型訓(xùn)練為例，商業(yè)銀行通過使用包括開放、非結(jié)構(gòu)化數(shù)據(jù)源、合成數(shù)據(jù)來預(yù)訓(xùn)練或優(yōu)化風(fēng)險(xiǎn)模型，以便為客戶群提供風(fēng)險(xiǎn)決策支持，最大化減少風(fēng)險(xiǎn)。例如，在智能投顧場景，借助于預(yù)訓(xùn)練大模型能夠?qū)鹑谖谋具M(jìn)行整體認(rèn)知和理解，消除人為的主觀因素，提供客觀的投資建議，同時(shí)也能不斷演進(jìn)和創(chuàng)新，減少對人工審核的依賴，給出風(fēng)險(xiǎn)警示和解決方案。??圖?銀行業(yè)生成式AI應(yīng)用路線圖銷售合規(guī)銷售合規(guī)合作伙伴實(shí)時(shí)監(jiān)控信用風(fēng)險(xiǎn)識(shí)別貸款專員輔助系統(tǒng)風(fēng)險(xiǎn)模型訓(xùn)練合成數(shù)據(jù)生成支付分析客戶報(bào)告生成借貸財(cái)務(wù)合同管理監(jiān)管合規(guī)客戶關(guān)系管理第三階段????合規(guī)監(jiān)控個(gè)性化營銷異常處理消費(fèi)個(gè)性化財(cái)務(wù)健康分析智能客服金融知識(shí)助手輿情監(jiān)控SAR報(bào)告自動(dòng)化網(wǎng)絡(luò)欺詐 社交網(wǎng)識(shí)別 分析交叉營銷流動(dòng)性現(xiàn)金預(yù)測????第一階段????合規(guī)與報(bào)告 客戶溝通和支持 員工管理和支持 運(yùn)營自動(dòng)化 風(fēng)險(xiǎn)管理與金融犯罪來源：IDC，????保險(xiǎn)業(yè)生成式AI應(yīng)用場景梳理如圖?，在保險(xiǎn)行業(yè)，生成式AI的應(yīng)用主要分為數(shù)字投資產(chǎn)品、數(shù)字風(fēng)險(xiǎn)服務(wù)、仿生操作、智能風(fēng)控以及數(shù)字運(yùn)營彈性等類別。其應(yīng)用主要也分為三個(gè)階段。第一階段（????年）的應(yīng)用場景有：保險(xiǎn)數(shù)據(jù)檢索&總結(jié)、保險(xiǎn)元數(shù)據(jù)生與標(biāo)記、理賠員助手、承銷商助手以及自動(dòng)化智能外呼和索賠欺詐監(jiān)測等場景。以保險(xiǎn)元數(shù)據(jù)生成與標(biāo)記為例，GenAI通過解析和生成元數(shù)據(jù)層、掌握語義關(guān)系和主題標(biāo)記，學(xué)習(xí)大量數(shù)據(jù)集的元數(shù)據(jù)模式，自動(dòng)生成符合規(guī)范的元數(shù)據(jù)。這包括但不限于文檔標(biāo)題、描述、關(guān)鍵詞、分類標(biāo)簽等，有效減輕了人工標(biāo)注的負(fù)擔(dān)，提高了整體數(shù)據(jù)質(zhì)量。第二階段（????年）的應(yīng)用場景有：風(fēng)險(xiǎn)教育&助手、捆綁式保險(xiǎn)產(chǎn)品銷、網(wǎng)絡(luò)威脅建模與預(yù)防、會(huì)話質(zhì)檢、動(dòng)態(tài)按需提供服務(wù)等場景。以個(gè)性化保險(xiǎn)業(yè)務(wù)為例，保險(xiǎn)機(jī)構(gòu)通過開發(fā)出基于機(jī)器學(xué)習(xí)和GenAI評估單個(gè)商用車風(fēng)險(xiǎn)的工具，工作人員可以分析不同的數(shù)據(jù)，如車輛類型和事故歷史，進(jìn)行細(xì)致的風(fēng)險(xiǎn)評估，從而實(shí)現(xiàn)個(gè)性化定價(jià)和個(gè)性化保險(xiǎn)產(chǎn)品推薦。第三階段（????年及以后）的應(yīng)用場景有：私密數(shù)據(jù)合成&負(fù)責(zé)任的AI圖?保險(xiǎn)行業(yè)生成式AI應(yīng)用路線圖虛擬代理虛擬代理銷售賦能風(fēng)險(xiǎn)偏好建模私密數(shù)據(jù)合成負(fù)責(zé)任的AI會(huì)話質(zhì)檢基于證據(jù)的損失預(yù)防風(fēng)險(xiǎn)教育&助手 合規(guī)自動(dòng)化索賠欺詐監(jiān)測&欺詐預(yù)防自動(dòng)化外呼營銷捆綁式保險(xiǎn)產(chǎn)品營銷個(gè)性化保險(xiǎn)業(yè)務(wù)動(dòng)態(tài)按需提供服務(wù)第三階段????理賠員助手網(wǎng)絡(luò)威脅建模與預(yù)防保險(xiǎn)元數(shù)據(jù)生成與標(biāo)記承銷商助手保險(xiǎn)數(shù)據(jù)檢索&總結(jié)????????

數(shù)字投資產(chǎn)品 數(shù)字風(fēng)險(xiǎn)服務(wù) 仿生操作 智能風(fēng)控 數(shù)字運(yùn)營彈性來源：IDC，????證券與投資業(yè)生成式AI應(yīng)用場景梳理如圖?，生成式AI在證券與投資業(yè)的應(yīng)用場景較為豐富，其主要分為合規(guī)與報(bào)告、客戶溝通和支持、員工管理和支持、運(yùn)營自動(dòng)化以及風(fēng)險(xiǎn)管理和金融犯罪等類別。在推進(jìn)生成式AI應(yīng)用過程中，也分為三個(gè)階段。在第一階段（????年）的應(yīng)用場景主要有：知識(shí)查詢、金融產(chǎn)品適用性析、超個(gè)性化金融培訓(xùn)、客戶入職培訓(xùn)助手、客戶報(bào)表生成、合成數(shù)據(jù)生成、信用風(fēng)險(xiǎn)建模助手等場景。以金融投資產(chǎn)品適用性分析為例，生成式人工智能可以幫助金融專業(yè)人員根據(jù)模擬場景分析客戶數(shù)據(jù)，例如歷史購買金融投資產(chǎn)品的對象特征及風(fēng)險(xiǎn)偏好，分析潛在的投資目標(biāo)，同時(shí)幫助金融機(jī)構(gòu)識(shí)別并控制投資風(fēng)險(xiǎn)，根據(jù)風(fēng)險(xiǎn)狀況生成量身定制的建議，并確保符合適用性法規(guī)。第二階段（????年）的應(yīng)用場景有：化和資產(chǎn)配置自動(dòng)化、客戶情緒分析、金融知識(shí)個(gè)性化生成，以及金融數(shù)據(jù)泄露預(yù)測與防范等場景。以投資組合優(yōu)化和資產(chǎn)配置自動(dòng)化為例，生成式AI可以根據(jù)不同的市場狀況和歷史趨勢，并根據(jù)不同客戶的風(fēng)險(xiǎn)偏好、投資期限、流動(dòng)性需求等，從而生成多樣化的投資組合建議。第三階段（????年及以后）的應(yīng)用場景有：價(jià)、情景化和個(gè)性化的客戶溝通、市場流動(dòng)性預(yù)測建模，以及模擬談判輔導(dǎo)等場景。以資產(chǎn)智能定價(jià)為例，生成式AI通過分析市場數(shù)據(jù)、實(shí)時(shí)和歷史數(shù)據(jù)以及其他相關(guān)輸入來生成準(zhǔn)確、動(dòng)態(tài)的定價(jià)模型和高度精細(xì)的估值方法，從而實(shí)現(xiàn)智能資產(chǎn)定價(jià)。圖?證券與投資行業(yè)生成式AI應(yīng)用路線圖情境化和個(gè)性化的客戶溝通情境化和個(gè)性化的客戶溝通投資組合優(yōu)化和資產(chǎn)配置自動(dòng)化金融證券交易策略市場流動(dòng)性預(yù)測建模ESG監(jiān)測與報(bào)告生成金融知識(shí)個(gè)性化生成風(fēng)險(xiǎn)模型訓(xùn)練欺詐檢測和預(yù)防交易監(jiān)控市場監(jiān)控模擬談判輔導(dǎo)合規(guī)檢測 受監(jiān)管自動(dòng)化 人員監(jiān)測金融產(chǎn)品適用性分析客戶細(xì)分和錨定客戶情緒分析第三階段????知識(shí)查詢增強(qiáng)型企業(yè)資本敞口建?？蛻魣?bào)表分析個(gè)人財(cái)務(wù)管理支持場景測試金融數(shù)據(jù)與防范客戶入職培訓(xùn)助手超個(gè)性化投資建議超個(gè)性化金融 自動(dòng)異常處教育合成數(shù)據(jù)生成????信用風(fēng)險(xiǎn)建模、助手第一階段????合規(guī)與報(bào)告 客戶溝通和支持 員工管理和支持 運(yùn)營自動(dòng)化 風(fēng)險(xiǎn)管理與金融犯罪來源：IDC，?????.?生成式AI在金融行業(yè)場景應(yīng)用流程梳理在大模型在金融行業(yè)落地中，場景選擇難是諸多金融機(jī)構(gòu)的痛點(diǎn)，如何選擇GenAI應(yīng)用場景，使AI能力與業(yè)務(wù)場景無縫融合，讓GenAI真正賦能于業(yè)務(wù)提效、成本節(jié)約、業(yè)績提升或體驗(yàn)升級，充分發(fā)揮GenAI應(yīng)用潛力。IDC認(rèn)為，金融行業(yè)生成式AI應(yīng)用場景的落地可以從場景應(yīng)用評估與選擇（如技術(shù)解決方案評估、項(xiàng)目管理及風(fēng)險(xiǎn)評估、投資回報(bào)分析）、以及面向場景的工程化落地（如模型選擇、技術(shù)路線、數(shù)據(jù)及算力準(zhǔn)備、模型訓(xùn)練及調(diào)優(yōu)、以及系統(tǒng)集成與部署、組織協(xié)同等）分步推進(jìn)。場景應(yīng)用評估與選擇一般可以從技術(shù)解決方案、項(xiàng)目管理及風(fēng)險(xiǎn)評估、投資回報(bào)分析等角度評估與選擇GenAI的具體金融應(yīng)用場景。但是從謹(jǐn)慎的角度，金融機(jī)構(gòu)可遵循由簡單到復(fù)雜、由內(nèi)而外、由點(diǎn)及面、逐步推進(jìn)的原則選擇與推進(jìn)金融大模型的應(yīng)用場景。同時(shí)通過下述評估方法確定采用GenAI后在相關(guān)的金融場景能發(fā)揮哪些潛力，并明確自身的業(yè)務(wù)目標(biāo)和需求，例如提升客戶體驗(yàn)、提高運(yùn)營效率、降低成本等。技術(shù)解決方案評估：GenAI技術(shù)在場景中的應(yīng)用還面臨著一些挑戰(zhàn)（如?.?節(jié)所述），在技術(shù)解決案的評估方面，亦需重點(diǎn)考慮GenAI是否可以解決金融業(yè)務(wù)場景中的需求或痛點(diǎn)，現(xiàn)有技術(shù)或資源（如基礎(chǔ)設(shè)施資源、基礎(chǔ)模型資源、AI平臺(tái)資源等）可以解決哪些問題，哪些技術(shù)/模塊需要自建或外采，哪些需通過與技術(shù)合作伙伴共同構(gòu)建，從而綜合考慮業(yè)務(wù)實(shí)施可行性?項(xiàng)目管理及風(fēng)險(xiǎn)評估：項(xiàng)目實(shí)施決策既要著眼于場景，也要考慮基于GenAI的實(shí)施方式，下列因素將有助于確定某個(gè)項(xiàng)目或項(xiàng)目集是否行得通：與當(dāng)前戰(zhàn)略的契合度、風(fēng)險(xiǎn)管理、成本及資源、數(shù)據(jù)及基礎(chǔ)設(shè)施資源、市場盈利潛力及長期價(jià)值，以及監(jiān)管與合規(guī)挑戰(zhàn)等。圖??項(xiàng)目管理及風(fēng)險(xiǎn)評估維度風(fēng)險(xiǎn)管理財(cái)務(wù)風(fēng)險(xiǎn)?包括機(jī)會(huì)成本運(yùn)營風(fēng)險(xiǎn)?競爭風(fēng)險(xiǎn)?競爭對手采用類似技術(shù)的影響成本及資源資本支出?所需的預(yù)付資本運(yùn)營費(fèi)用?維護(hù)/支持所需的日常支出人才資源?現(xiàn)有團(tuán)隊(duì)、新員工、GenAI專業(yè)人才、領(lǐng)導(dǎo)總擁有成本?長期綜合成本市場價(jià)值與盈利能力盈利能力?預(yù)期回報(bào)、凈利潤、投資回收期長期價(jià)值?長期財(cái)務(wù)及ROI影響預(yù)估

戰(zhàn)略契合度戰(zhàn)略契合度?評估與公司當(dāng)前戰(zhàn)略的契合度市場趨勢和客戶接受度?是否符合市場發(fā)展趨勢，以及消費(fèi)者或企業(yè)對AI的看法數(shù)據(jù)、基礎(chǔ)設(shè)施、集成能力數(shù)據(jù)和基礎(chǔ)設(shè)施資源?可用的數(shù)據(jù)能力、基礎(chǔ)設(shè)施兼容性舊有系統(tǒng)的集成能力?與現(xiàn)有技術(shù)的兼容性監(jiān)管與合規(guī)監(jiān)管及合規(guī)挑戰(zhàn)?GenAI面臨的具體挑戰(zhàn)，包括是否符合監(jiān)管及合規(guī)標(biāo)準(zhǔn)來源：IDC，????投資回報(bào)分析（ROI）：GenAI在業(yè)務(wù)中的實(shí)際價(jià)值和ROI將取決于GenAI在實(shí)現(xiàn)成果方面的表現(xiàn)。但是，這些成果可能是有形的，即可以用特定KPI衡量的回報(bào)，也可KPI和法律相關(guān)的數(shù)據(jù)和深度知識(shí)集成到一個(gè)基于數(shù)據(jù)的GenAI應(yīng)用中，形成高了首次呼叫解決率。該應(yīng)用用到的數(shù)據(jù)集涵蓋數(shù)十萬份金融和法律文件，使??個(gè)國家/地區(qū)的多達(dá)??,???該解決方案還提高了員工對產(chǎn)品的了解，從而也提高了客服接觸點(diǎn)互動(dòng)中的交叉銷售和追加銷售機(jī)會(huì)。面向場景的GenAI工程化落地IDC認(rèn)為，GenAI的場景應(yīng)用是一項(xiàng)系統(tǒng)工程，涉及模型選擇、技術(shù)路線選擇、數(shù)據(jù)及算力準(zhǔn)備，以及模型訓(xùn)練及調(diào)優(yōu)、系統(tǒng)集成與部署、組織協(xié)同等工作。表?面向場景的GenAI工程化落地要素及要點(diǎn)類別描述要點(diǎn)模型選擇金融機(jī)構(gòu)根據(jù)自身業(yè)務(wù)需求和技術(shù)實(shí)力選擇生成式AI模型基礎(chǔ)大模型（如GPT系列）行業(yè)大模型特定場景下的定制化模型技術(shù)路線深度研發(fā)大模型、基于現(xiàn)有大模型進(jìn)行工程化適配，或直接通過SaaS化模式使用大模型服務(wù)自主研發(fā)：自主性強(qiáng)，但需高投入工程化適配：快速響應(yīng)，但定制化受限SaaS化：即插即用，但數(shù)據(jù)安全與定制化需考量數(shù)據(jù)及算力準(zhǔn)備數(shù)據(jù)準(zhǔn)備需高質(zhì)量數(shù)據(jù)、定制化采標(biāo)數(shù)據(jù)、合成數(shù)據(jù)及企業(yè)內(nèi)部數(shù)據(jù)；算力資源需充足且穩(wěn)定數(shù)據(jù)集多元化減少算法偏見部署與模型適配的算力基礎(chǔ)設(shè)施模型訓(xùn)練及調(diào)優(yōu)使用訓(xùn)練平臺(tái)、開發(fā)工具、調(diào)優(yōu)工具進(jìn)行模型訓(xùn)練，并通過微調(diào)、提示詞工程、RAG等方式優(yōu)化調(diào)整超參數(shù)優(yōu)化模型性能微調(diào)、提示詞工程等適應(yīng)特定金融場景提供部署&推理工具保障模型運(yùn)行系統(tǒng)集成與部署將生成式AI/模型集成到業(yè)務(wù)流程或產(chǎn)品中，選擇合適的部署方式自動(dòng)化、智能化生成式AI功能實(shí)現(xiàn)同時(shí)根據(jù)業(yè)務(wù)需求和技術(shù)環(huán)境選擇本地化部署或云托管等方式組織協(xié)同扁平化組織架構(gòu)、跨部門合作、靈活項(xiàng)目管理方法推動(dòng)生成式AI應(yīng)用促進(jìn)快速創(chuàng)新與決策高效推動(dòng)AI在各部門中的使用確保技術(shù)與業(yè)務(wù)需求緊密結(jié)合來源：IDC，????第四章金融行業(yè)大模型的當(dāng)前，不同類型的金融機(jī)構(gòu)在推進(jìn)大模型的落地中，有著不同的路徑選擇。有金融機(jī)構(gòu)自主開發(fā)和預(yù)訓(xùn)練的金融大模型；基于通用大模型并通過提示詞設(shè)計(jì)、模按需接入各類金融大模型或通過標(biāo)準(zhǔn)化SaaS模式接入GenAI應(yīng)用。金融機(jī)構(gòu)可根據(jù)自身戰(zhàn)略目標(biāo)、業(yè)務(wù)需求、技術(shù)能力、資源稟賦、風(fēng)險(xiǎn)偏好來決定是否自主建?.?、金融機(jī)構(gòu)落地大模型的應(yīng)用路徑路徑?：金融機(jī)構(gòu)自主主導(dǎo)開發(fā)和訓(xùn)練大模型該路徑往往需要金融機(jī)構(gòu)投入較大的IT資源和人力資源，與之對應(yīng)的金融應(yīng)用場景也較為復(fù)雜，需要大模型在金融領(lǐng)域?qū)I(yè)知識(shí)、術(shù)語及政策等方面具有專業(yè)的理解能力；這些場景對模型精度、模型安全，數(shù)據(jù)的可用性、豐富性、安全性，以及業(yè)務(wù)合規(guī)等都有較高的要求，故自主開發(fā)和專門訓(xùn)練的金融垂類大模型可能會(huì)更好地滿足這些需求。根據(jù)IDC調(diào)研數(shù)據(jù)顯示（如圖??），金融機(jī)構(gòu)考慮GenAI構(gòu)建自有模型的主要考慮因素有成本/花費(fèi)、對數(shù)據(jù)隱私及安全顧慮以及所需數(shù)據(jù)的可得性。??圖??以下哪三項(xiàng)是貴機(jī)構(gòu)考慮為GenAI構(gòu)建自有模型的主要因素？成本/所需數(shù)據(jù)的可得性模型性能/遵守負(fù)責(zé)任的AI原則是是否有專業(yè)的模型開發(fā)團(tuán)隊(duì)?.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?%銀行（含銀行金融科技子公司）保險(xiǎn) 證券（含央行系機(jī)構(gòu)、交易所、基金、期貨）來源：IDC，????例如，某證券與投資服務(wù)公司，基于其海量的數(shù)據(jù)資源，如宏觀經(jīng)濟(jì)數(shù)據(jù)、行業(yè)經(jīng)濟(jì)數(shù)據(jù)、企業(yè)研究報(bào)告、上市公司信息披露等結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)，以及交易所、政府部門、科研機(jī)構(gòu)、高等院校、專業(yè)行業(yè)數(shù)據(jù)公司等機(jī)構(gòu)提供的授權(quán)數(shù)據(jù)，同時(shí)為了提高模型的通用能力，該公司自主研發(fā)了大模型，從訓(xùn)練語料、訓(xùn)練框架到模型結(jié)構(gòu)的設(shè)計(jì)，均從零開始、創(chuàng)新性地構(gòu)建基礎(chǔ)模型及金融大模型，并且在預(yù)訓(xùn)練階段就融合了金融領(lǐng)域的語料，而不是在微調(diào)階段。這種做法使得模型在知識(shí)學(xué)習(xí)上更為深入，能夠理解金融領(lǐng)域中的復(fù)雜關(guān)系和概念。此外，為了加速AI能力面向各場景的深入落地，該公司構(gòu)建了AI開放平臺(tái)，目前可面向客戶提供短視頻生成、文章生成、數(shù)字虛擬人、智能金融問答、智能語音、智能客服機(jī)器人、智能質(zhì)檢機(jī)器人、會(huì)議轉(zhuǎn)寫系統(tǒng)、智能醫(yī)療輔助系統(tǒng)等多項(xiàng)AI產(chǎn)品及服務(wù)。??路徑?：基于通用大模型/開源模型，疊加金融服務(wù)領(lǐng)域數(shù)據(jù)，通過使用參數(shù)微調(diào)、提示詞工程/檢索增強(qiáng)生成等方式優(yōu)化基礎(chǔ)模型推進(jìn)金融業(yè)務(wù)場景的落地這種路徑是金融機(jī)構(gòu)基于基礎(chǔ)模型，通過私域數(shù)據(jù)集進(jìn)行模型訓(xùn)練調(diào)優(yōu)，以實(shí)現(xiàn)金融機(jī)構(gòu)金融大模型的建設(shè)，該方式在特定任務(wù)上表現(xiàn)出來的性能和在特定領(lǐng)域知識(shí)的深度理解會(huì)更強(qiáng)。在IDC的調(diào)研中，金融機(jī)構(gòu)為GenAI使用第三方現(xiàn)有模型的主要因素是成本/花費(fèi)、模型性能/模型參數(shù)、以及數(shù)據(jù)可得性及數(shù)據(jù)隱私等（如圖??）。尤其是在數(shù)據(jù)層面，向量數(shù)據(jù)的管理和合成數(shù)據(jù)生成是金融機(jī)構(gòu)著需解決的問題。其中，向量數(shù)據(jù)庫等創(chuàng)新技術(shù)現(xiàn)在已成為GenAI數(shù)據(jù)價(jià)值鏈的關(guān)鍵部分，包括數(shù)據(jù)管理流程的整個(gè)生命周期,已被用于檢索增強(qiáng)生成，因?yàn)樗鼈兛捎糜趯Υ鎯?chǔ)為高維數(shù)據(jù)的非結(jié)構(gòu)化數(shù)據(jù)集執(zhí)行搜索，可以輕松地與現(xiàn)有數(shù)據(jù)庫集成，從而為從LLM實(shí)施GenAI解決方案提供了一種更靈活、更高效的方式，以高效用于各種應(yīng)用場景，例如產(chǎn)品推薦、異常檢測和業(yè)務(wù)分析等。而合成數(shù)據(jù)生成涉及創(chuàng)建模擬真實(shí)數(shù)據(jù)特征的人工數(shù)據(jù)集。在分析中，它用于解決隱私問題和數(shù)據(jù)稀缺問題，或模擬各種測試場景。通過生成代表性數(shù)據(jù)，可以在不泄露敏感信息的情況下開發(fā)和完善模型。這種方法可以加速創(chuàng)新，提高模型性能，尤其是在處理有限或敏感的數(shù)據(jù)集時(shí)，該方法特別適用。??圖??以下哪三項(xiàng)是貴機(jī)構(gòu)考慮為GenAI使用第三方現(xiàn)有模型的主要因素？成本/模型性能/所需數(shù)據(jù)的可得性是否有完備的工具鏈遵守負(fù)責(zé)任的AI原則?.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?%銀行（含銀行金融科技子公司）保險(xiǎn) 證券（含央行系機(jī)構(gòu)、交易所、基金、期貨）來源：IDC，????在模型訓(xùn)練及調(diào)優(yōu)方面主要通過微調(diào)、提示詞設(shè)計(jì)、檢索增強(qiáng)生成(RAG)等方法，增強(qiáng)基礎(chǔ)模型輸出的準(zhǔn)確性、知識(shí)實(shí)時(shí)性。微調(diào)：使用金融領(lǐng)域數(shù)據(jù)和人工監(jiān)督來調(diào)整預(yù)訓(xùn)練的模型，以提高金融領(lǐng)域的模型性能。選擇該方式的考慮因素：具有特定領(lǐng)域性能的高復(fù)雜性用例，例如智能投顧、支付分析、風(fēng)險(xiǎn)模型訓(xùn)練等。檢索增強(qiáng)生成（RAG）：將金融領(lǐng)域的文檔集合與預(yù)先訓(xùn)練的模型相結(jié)合，使輸出情境化，而不涉及LLM。選擇該方式的考慮因素：金融機(jī)構(gòu)擁有該領(lǐng)域的專有數(shù)據(jù)和標(biāo)簽數(shù)據(jù)。適用的應(yīng)用場景包括內(nèi)容搜索/金融知識(shí)問答、事實(shí)調(diào)查/欺詐識(shí)別/風(fēng)險(xiǎn)監(jiān)控、內(nèi)容生成/營銷助手等用例。提示工程：使用提示技術(shù)來影響預(yù)訓(xùn)練模型生成輸出的準(zhǔn)確性。選擇該方式的考慮因素：適用于不需要特定領(lǐng)域的上下文的用例，同時(shí)允許用戶級控制產(chǎn)生特定任務(wù)輸出的場景，以便客戶可以更加精準(zhǔn)地獲得其想要的知識(shí)。未來，隨著諸多基座模型的開源，以及一系列低成本的微調(diào)/檢索增強(qiáng)生成等技術(shù)的出現(xiàn)，將有越來越多的金融機(jī)構(gòu)，會(huì)基于其需求定制專屬大模型。例如，某國有銀行從算力、數(shù)據(jù)、大模型、場景等維度推進(jìn)大模型的落地：在算力層面，通過構(gòu)建一體化云原生的異構(gòu)算力平臺(tái)來管理和調(diào)度多元異構(gòu)的AI算力資源；在數(shù)據(jù)層面，圍繞“采建管用”閉環(huán)，構(gòu)建大模型訓(xùn)練和持續(xù)提升的基礎(chǔ)數(shù)據(jù)閉環(huán)；在大模型方面，其基礎(chǔ)模型是采用第三方開源模型，包括業(yè)界主流的開源模型以及正在做共建和聯(lián)創(chuàng)的產(chǎn)業(yè)大模型，各個(gè)基礎(chǔ)模型之間可以無縫切換，具有靈活的適配性，而對于金融大模型平臺(tái)，包括NLP、CV、多模態(tài)等大模型，主要是通過組件化（例如微調(diào)組件、RAG組件等）方法快速優(yōu)化各類開源模型和商業(yè)模型，以實(shí)現(xiàn)各類金融場景的接入，目前已在智能客服、智慧三農(nóng)、智能營銷、智能運(yùn)營、智能風(fēng)控等場景進(jìn)行探索及應(yīng)用。路徑?：按需接入各類大模型API（按需付費(fèi)的SaaS訂閱模式）這種路徑主要是以SaaS模式面向金融機(jī)構(gòu)提供服務(wù)，通過將生成式AI模型能力封裝為API服務(wù)接口，金融機(jī)構(gòu)以外采訂閱的形式，可以通過API將GenAI模型嵌入自研應(yīng)用軟件增強(qiáng)智能化水平，或是基于API創(chuàng)建定制化的全新智能應(yīng)用，通過嵌入式AIGC應(yīng)用，進(jìn)行場景變革或產(chǎn)品升級。選擇該路徑推進(jìn)GenAI應(yīng)用的場景往往是那些標(biāo)準(zhǔn)化程度較高的通用類場景，金融機(jī)構(gòu)通過API接口的形式將第三方生成式AI內(nèi)嵌于應(yīng)用之中，可以開箱即用。比如，將生成式AI內(nèi)置于HRSaaS軟件，實(shí)現(xiàn)以智能問答的交互形式服務(wù)員工。例如，某金融機(jī)構(gòu)通過使用某云廠商合作（即：金融機(jī)構(gòu)外采模式），利用云廠商的全棧解決方案（從計(jì)算基礎(chǔ)設(shè)施到數(shù)據(jù)庫，再到金融場景服務(wù)）來幫助金融機(jī)構(gòu)構(gòu)建其GenAI支持的SaaS，所有這些都在云服務(wù)環(huán)境中完成。如此客戶就無需啟動(dòng)大量工具和服務(wù)來開發(fā)GenAI功能。該方法在數(shù)據(jù)保護(hù)方面，主要是通過在第三方系統(tǒng)中托管數(shù)據(jù)庫以滿足金融機(jī)構(gòu)對數(shù)據(jù)安全性及合規(guī)要求。路徑?：與戰(zhàn)略合作伙伴協(xié)同推進(jìn)GenAI的場景落地金融機(jī)構(gòu)也可以與AI基礎(chǔ)大模型廠商、AI大模型平臺(tái)服務(wù)商、以及AI應(yīng)用開發(fā)和集成服務(wù)商、咨詢/服務(wù)商等戰(zhàn)略合作伙伴合作推進(jìn)GenAI的場景落地。例如，在與基礎(chǔ)大模型廠商合作方面，通過選擇與業(yè)務(wù)應(yīng)用場景相匹配的基礎(chǔ)大模型，例如如果金融機(jī)構(gòu)需要將大模型應(yīng)用在面向零售業(yè)務(wù)的智能客服場景，則其應(yīng)優(yōu)先選擇在自然語言處理方面有較大優(yōu)勢的基礎(chǔ)大模型。在與大模型平臺(tái)服務(wù)商合作方面，通過與AI平臺(tái)服務(wù)商合作構(gòu)建多種AI工具和能力（如自然語言處理、圖像識(shí)別等多種能力和工具），用于支持AI應(yīng)用的開發(fā)與部署，并集中管理AI模型、運(yùn)維和治理確保AI系統(tǒng)的穩(wěn)定運(yùn)行和合規(guī)性。在AI應(yīng)用開發(fā)和集成服務(wù)商方面，通過選擇利用廠商在該領(lǐng)域的AI應(yīng)用開發(fā)與集成能力，如計(jì)算機(jī)視覺（CV）、自然語言處理（NLP）、知識(shí)圖譜（KG）和文檔智能（DocAI），為金融機(jī)構(gòu)大模型的落地提供應(yīng)用開發(fā)與集成服務(wù)。綜合來看，不同路徑的選擇對于金融機(jī)構(gòu)內(nèi)部人才、數(shù)據(jù)以及預(yù)算的要求等各不相同；同時(shí)，鑒于金融對專業(yè)性要求較高，且需要遵守各類流程和規(guī)范，每一種路徑對于戰(zhàn)略競爭優(yōu)勢、模型控制以及安全和隱私等方面的影響均有不同。上述各個(gè)路徑所需考慮/執(zhí)行的決策要點(diǎn)可以結(jié)合圖??示例。圖??應(yīng)用路徑的決策框架生產(chǎn)力用例功能用例行業(yè)用例生產(chǎn)力用例功能用例行業(yè)用例微調(diào)現(xiàn)有模型內(nèi)部人才?數(shù)據(jù)和預(yù)算的要求評估對開源模型的需求內(nèi)部人才?數(shù)據(jù)和預(yù)算的要求購買應(yīng)用程序?qū)Ｗ⒂诜?wù)協(xié)議

獲取數(shù)據(jù)文本 代碼音頻 生成式AI 視基礎(chǔ)模型結(jié)構(gòu) 圖像

構(gòu)建自己的模型定制模型評估對私有/公有化部署的需求戰(zhàn)略伙伴關(guān)系與支持大模型應(yīng)用的技術(shù)提供商合作低 低 戰(zhàn)略競爭優(yōu)勢、模型控制、治理、安全、隱私 高來源：IDC，???????.?金融機(jī)構(gòu)選擇或部署大模型時(shí)的關(guān)鍵能力要素IDC認(rèn)為，金融機(jī)構(gòu)在落地大模型的過程中，需要綜合考慮數(shù)據(jù)價(jià)值鏈管理、模型的選擇與部署、AI平臺(tái)搭建、以及AI治理等要素。數(shù)據(jù)價(jià)值鏈管理：提升數(shù)據(jù)可用性和數(shù)據(jù)質(zhì)量金融機(jī)構(gòu)的數(shù)據(jù)價(jià)值鏈管理是生成式AI在金融場景中有效發(fā)揮價(jià)值的基石，其核心目的是提升數(shù)據(jù)質(zhì)量、數(shù)據(jù)可用性以及確保數(shù)據(jù)的合規(guī)獲取，有利于金融機(jī)構(gòu)面向不同的應(yīng)用場景快速構(gòu)建高質(zhì)量的數(shù)據(jù)集，并為后續(xù)金融大模型的規(guī)模應(yīng)用奠定堅(jiān)實(shí)的基礎(chǔ)。目前市場中已存在通過構(gòu)建多模數(shù)據(jù)管理平臺(tái)DMS或是通過數(shù)據(jù)管理全流程解決方案，以更好地滿足大模型時(shí)代的用數(shù)需求。生成式AI數(shù)據(jù)價(jià)值鏈負(fù)責(zé)監(jiān)督基礎(chǔ)模型、微調(diào)模型/金融行業(yè)模型使用的訓(xùn)練數(shù)據(jù)的獲取、生成、處理和管理，以確保全面、多樣化和高質(zhì)量的訓(xùn)練數(shù)據(jù)的可用性。同時(shí)，生成式AI數(shù)據(jù)價(jià)值鏈管理能夠顯著提升模型輸出的準(zhǔn)確性和安全性。通常，數(shù)據(jù)價(jià)值鏈往往包括：數(shù)據(jù)采集、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)標(biāo)注、數(shù)據(jù)精益、訓(xùn)練數(shù)據(jù)生成、數(shù)據(jù)驗(yàn)證、數(shù)據(jù)保護(hù)、數(shù)據(jù)監(jiān)控、數(shù)據(jù)管理、數(shù)據(jù)分析等。??表?數(shù)據(jù)價(jià)值鏈管理要素序號(hào)數(shù)據(jù)處理階段描述?數(shù)據(jù)采集從各種內(nèi)部和外部來源收集原始數(shù)據(jù)的過程，可能涉及收集大量文本、代碼、圖像或其他相關(guān)數(shù)據(jù)源。?數(shù)據(jù)存儲(chǔ)支持多種類型的存儲(chǔ)需求，包括結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)（如圖像、音頻和視頻等）。需確?？蓴U(kuò)展性、性能、數(shù)據(jù)安全性和隱私保護(hù)。?數(shù)據(jù)標(biāo)注對選定的數(shù)據(jù)集進(jìn)行注釋或標(biāo)記，以加快監(jiān)督式機(jī)器學(xué)習(xí)過程。雖然不是所有生成式AI用例的必要步驟，但有助于確保數(shù)據(jù)整合和模型推理的準(zhǔn)確性。?數(shù)據(jù)精益確保嵌入到Prompts中的數(shù)據(jù)高質(zhì)量、可靠、及時(shí)、準(zhǔn)確、完整，并適用于其使用上下文。通過數(shù)據(jù)清洗和數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn)提升數(shù)據(jù)質(zhì)量。?訓(xùn)練數(shù)據(jù)生成準(zhǔn)備訓(xùn)練或轉(zhuǎn)換基礎(chǔ)模型的精選數(shù)據(jù)子集，確保數(shù)據(jù)質(zhì)量和多樣性滿足訓(xùn)練需求。?數(shù)據(jù)驗(yàn)證采用人工審核、多渠道數(shù)據(jù)驗(yàn)證和用戶反饋機(jī)制等方法，確保數(shù)據(jù)準(zhǔn)確性，并糾正模型可能出現(xiàn)的準(zhǔn)確性問題。?數(shù)據(jù)保護(hù)在推理或模型轉(zhuǎn)換過程中，保護(hù)個(gè)人或公司敏感信息不被泄露。進(jìn)行數(shù)據(jù)安全和隱私分類，確保隱私和安全，促進(jìn)創(chuàng)新，并保持合規(guī)性。?數(shù)據(jù)監(jiān)控使用標(biāo)準(zhǔn)、策略和指標(biāo)實(shí)時(shí)監(jiān)控?cái)?shù)據(jù)使用及流動(dòng)情況，確保主要活動(dòng)中的數(shù)據(jù)隱私和安全性。?數(shù)據(jù)管理提供處理和訪問大量數(shù)據(jù)的標(biāo)準(zhǔn)工具和技術(shù)，如數(shù)據(jù)管道、數(shù)據(jù)復(fù)制等。確定數(shù)據(jù)所有權(quán)，控制業(yè)務(wù)域、應(yīng)用程序和分析中數(shù)據(jù)的訪問、使用和維護(hù)。??數(shù)據(jù)分析運(yùn)用數(shù)據(jù)挖掘、統(tǒng)計(jì)、商業(yè)智能和預(yù)測工具來理解數(shù)據(jù)，為AI開發(fā)人員和數(shù)據(jù)科學(xué)家提供重要支持。來源：IDC，????模型層面：模型的選擇與部署的考慮因素在模型選擇方面，往往涉及如下問題，例如是否選擇開源模型、選擇何種開源模型、選擇何種模型開發(fā)及模型優(yōu)化方式、如何部署模型等，金融機(jī)構(gòu)可以根據(jù)業(yè)務(wù)需求、任務(wù)類型、數(shù)據(jù)量級、以及業(yè)務(wù)場景的技術(shù)投入和其對安全合規(guī)等因素去選擇合適的模型。尤其是需要評估大型模型開發(fā)與金融業(yè)務(wù)場景之間的匹配度，了解模型在實(shí)際場景中的應(yīng)用方式及應(yīng)用價(jià)值，確保其符合業(yè)務(wù)需求（具體可參考?.?節(jié)中關(guān)于應(yīng)用場景選擇與評估的方法）。表?模型選擇與部署考慮因素選型方案考慮因素/優(yōu)勢開源模型開源模型通常已經(jīng)過驗(yàn)證，可以快速部署和測試，能有效降低開發(fā)成本，提升開發(fā)速度，適用于場景驗(yàn)證及成本投入不高的機(jī)構(gòu)。而在開源模型選擇方面，通常需要根據(jù)具體需求選擇性能最優(yōu)、功能最符合的模型，同時(shí)確保所選模型與現(xiàn)有技術(shù)棧和工具鏈兼容。閉源模型開發(fā)成本較高，可滿足高定制化、安全性需求，例如金融行業(yè)部分應(yīng)用場景對模型的透明度和可審計(jì)性有嚴(yán)格要求，這時(shí)可能需要閉源模型。模型部署方式金融機(jī)構(gòu)可以根據(jù)業(yè)務(wù)類型，如貸款、投資、保險(xiǎn)等，以及不同業(yè)務(wù)場景下的模型應(yīng)用需求及其對數(shù)據(jù)安全與合規(guī)要求等因素，考慮具體的模型部署方式。通常，私有化部署具有數(shù)據(jù)安全性高、自主可控性強(qiáng)、可定制化程度高等特點(diǎn)。公有云部署成本最低、靈活性高，但是數(shù)據(jù)安全性相對較低。模型優(yōu)化方式金融機(jī)構(gòu)在選擇提示詞設(shè)計(jì)、微調(diào)、檢索增強(qiáng)生成（RAG）等方法的考慮因素及場景選擇方面可以參考?.?節(jié)中相關(guān)內(nèi)容的描述。來源：IDC，????AI平臺(tái)：從模型管理到應(yīng)用搭建的一站式開發(fā)與服務(wù)平臺(tái)由于金融行業(yè)大模型應(yīng)用場景豐富，隨著大模型與證券、保險(xiǎn)、銀行業(yè)務(wù)的融合，將迸發(fā)出大量的GenAI應(yīng)用開發(fā)需求，亟需AI平臺(tái)來提高模型構(gòu)建及編排效率、應(yīng)用開發(fā)部署效率。根據(jù)IDC調(diào)研數(shù)據(jù)顯示（圖??），大多數(shù)金融機(jī)構(gòu)受者表示，他們已經(jīng)選擇或正在評估使用GenAI平臺(tái)來幫助其開發(fā)、運(yùn)營和管理GenAI模型及應(yīng)用。圖??以下哪一項(xiàng)最能描述貴機(jī)構(gòu)當(dāng)前或預(yù)期使用GenAI平臺(tái)來幫助您開發(fā)運(yùn)營和管理GenAI模型及應(yīng)用？我們正在評估GenAl平臺(tái)，并將在未來??個(gè)月內(nèi)進(jìn)行選我們已經(jīng)選擇了GenAl我們才剛剛開始評估GenAl平臺(tái)，并將在未來??個(gè)月內(nèi)進(jìn)行選擇我們沒有需求去選擇一個(gè)GenAI不知道我們已經(jīng)擁有或打算自建GenAI平臺(tái)?.?%?.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%銀行（含銀行金融科技子公司）保險(xiǎn) 證券（含央行系機(jī)構(gòu)、交易所、基金、期貨）來源：IDC，????領(lǐng)先的云供應(yīng)商應(yīng)在其AI平臺(tái)中添加多種模型，以滿足客戶對數(shù)據(jù)集、參數(shù)和開放的各種需求。在算法模型庫的建設(shè)方面，組織需要將開源的算法，自研的算法等都統(tǒng)一管理。在模型訓(xùn)練方面，搭建基于CPU和GPU的分布式訓(xùn)練框架。在模型推理方面，統(tǒng)一實(shí)現(xiàn)離線批量預(yù)測和在線預(yù)測的功能，包含推理加速、資源管理等?；谶@些基礎(chǔ)組件的能力，搭建一站式AI開發(fā)工作流，從特征篩選到特征處理、樣本構(gòu)建、模型訓(xùn)練調(diào)試評估、模型的部署和實(shí)驗(yàn)，再到后期模型的運(yùn)維監(jiān)控，貫穿算法開發(fā)的整個(gè)流程。IDC認(rèn)為，未來生成式AI開發(fā)平臺(tái)將向更普惠的MaaS演進(jìn)，并加速生成式AI應(yīng)用的落地。因此，搭建一套大模型工具鏈（包括提示詞管理、多種PEFT微調(diào)方法的集成以及一鍵式RLHF訓(xùn)練工具）以實(shí)現(xiàn)面向不同的應(yīng)用場景實(shí)現(xiàn)模型優(yōu)化，也是十分必要的。這些工具包含大模型優(yōu)化及應(yīng)用擴(kuò)展能力，使大模型能夠更有針對性地服務(wù)特定應(yīng)用。例如，某證券與投資公司，在推進(jìn)大模型落地中所推出的AI開放平臺(tái)包含模型開發(fā)、模型調(diào)優(yōu)、推理加速等能力，目前可面向客戶提供短視頻生成、文章生成、數(shù)字虛擬人、智能金融問答、智能語音、智能客服機(jī)器人、智能質(zhì)檢機(jī)器人、會(huì)議轉(zhuǎn)寫系統(tǒng)、智能醫(yī)療輔助系統(tǒng)等多項(xiàng)AI產(chǎn)品及服務(wù)。同時(shí)，為了提高模型在具體業(yè)務(wù)場景中的推理準(zhǔn)確性及安全性，推理時(shí)始終需要高質(zhì)量、最新的數(shù)據(jù)，以提高模型返回內(nèi)容的準(zhǔn)確性和相關(guān)性。而且，在推理過程中，所使用的信息流也存在暴露敏感信息（個(gè)人或公司）的可能，金融機(jī)構(gòu)可通過AI插件來監(jiān)控模型推理過程中的數(shù)據(jù)泄露問題。此外，為了更有效的推進(jìn)大模型在金融業(yè)務(wù)場景中的應(yīng)用，金融機(jī)構(gòu)也可以自建或通過與外部廠商合作，提供面向場景共享復(fù)用、開箱即用的組件或能力，以及模型運(yùn)行管理服務(wù)（例如模型更新和監(jiān)測等），從而加速金融機(jī)構(gòu)的GenAI應(yīng)用。根據(jù)IDC調(diào)研數(shù)據(jù)顯示（如圖??），大多數(shù)金融機(jī)構(gòu)受訪者表示，預(yù)計(jì)在來??個(gè)月內(nèi)將使用模型運(yùn)行管理服務(wù)（例如模型更新和監(jiān)測等）來推動(dòng)大模型應(yīng)用落地。圖??預(yù)計(jì)在未來??個(gè)月內(nèi)您所在的組織將使用哪種專業(yè)服務(wù)來推動(dòng)大模型的應(yīng)用落地？模型運(yùn)行管理服務(wù)（例如模型更新和監(jiān)測等）商業(yè)咨詢（大模型應(yīng)用規(guī)劃、建設(shè)規(guī)劃及相關(guān)政策）IT開發(fā)服務(wù)（應(yīng)用程序開發(fā)和部署）?.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?%銀行（含銀行金融科技子公司）保險(xiǎn) 證券（含央行系機(jī)構(gòu)、交易所、基金、期貨）來源：IDC，????例如工商銀行就通過打造適配金融行業(yè)的“?+X”工程化解決方案，其中“?”指智能中樞平臺(tái)，通過智能中樞的任務(wù)感知、決策、執(zhí)行、反饋等能力實(shí)現(xiàn)金融復(fù)雜場景的應(yīng)用；沉淀“X”可共享復(fù)用的范式能力，包含多模態(tài)知識(shí)檢索、對話式數(shù)據(jù)分析、智能化文檔編寫、交互式智能搜索、陪伴式智能研發(fā)等多項(xiàng)金融即插即用的零代碼工程化解決方案，以高效賦能于金融業(yè)務(wù)。同時(shí)，金融機(jī)構(gòu)在選擇外部服務(wù)商搭建GenAI平臺(tái)時(shí)，可以提供豐富的開箱即用的能力以支撐多樣場景的落地，GenAI平臺(tái)的可擴(kuò)展性、安全性，以及在金融行業(yè)的大規(guī)模生成式AI落地經(jīng)驗(yàn)是其最看重的三項(xiàng)能力。目前，中電金信也幫助多家金融機(jī)構(gòu)開發(fā)了GenAI平臺(tái)，例如其向某機(jī)構(gòu)構(gòu)建了企業(yè)級人工智能研發(fā)平臺(tái)和研發(fā)體系，通過沉淀AI原生應(yīng)用的研發(fā)規(guī)范，打造AI場景應(yīng)用的標(biāo)桿，并建設(shè)基于大模型的服務(wù)管理平臺(tái)，在已有數(shù)據(jù)中臺(tái)基礎(chǔ)之上集成公文文檔和外部情報(bào)數(shù)據(jù)，開發(fā)了信息情報(bào)工作站、智能公文寫作兩個(gè)場景應(yīng)用；在另一個(gè)典型案例中，幫助某頭部城商行構(gòu)建了人工智能融合中臺(tái)，通過建設(shè)大模型平臺(tái)，實(shí)現(xiàn)底層資源統(tǒng)一池化管理、提供一站式的數(shù)據(jù)工程、模型訓(xùn)練調(diào)優(yōu)、大模型評估、推理加速和提示詞工程等工具鏈能力，有效支撐了全行的大模型應(yīng)用開發(fā)。AI治理：構(gòu)建大模型在金融場景穩(wěn)定且安全的應(yīng)用保障???AI和使用案例。其主要包括型治理、風(fēng)險(xiǎn)治理、以及滿足負(fù)責(zé)任的AI的要求。在模型治理方面，其需要解決模型幻覺、模型偏見以及模型的審計(jì)跟蹤及其可解釋性等問題。例如，可以通過增加數(shù)據(jù)多樣性和規(guī)模、改進(jìn)模型結(jié)構(gòu)、建立反饋機(jī)制等措施來應(yīng)對模型幻覺；通過數(shù)據(jù)清洗和預(yù)處理、多樣化數(shù)據(jù)集、公平性評估等措施來應(yīng)對模型偏見；通過記錄模型訓(xùn)練過程、模型版本控制、輸出日志記錄等措施來加強(qiáng)審計(jì)跟蹤；通過使用基于prompting范式的模型解釋、基于分類器進(jìn)行探測等模型解釋工具、以及可視化技術(shù)等方法來提高模型的可解釋性。在負(fù)責(zé)任的AI方面，IDC將負(fù)責(zé)任的人工智能（RAI）定義為以恪守嚴(yán)謹(jǐn)安全的監(jiān)管要求、遵循公平透明的行業(yè)規(guī)則、維護(hù)用戶為先的價(jià)值取向的方式進(jìn)行大模型和GenAI的設(shè)計(jì)、開發(fā)和部署。金融機(jī)構(gòu)在推進(jìn)大模型落地中，秉承負(fù)責(zé)任的AI原則，有助于確保所有操作符合法律法規(guī)，減少違規(guī)風(fēng)險(xiǎn)和潛在的法律訴訟，并輔助實(shí)現(xiàn)維護(hù)金融系統(tǒng)穩(wěn)定的社會(huì)價(jià)值。金融機(jī)構(gòu)在推進(jìn)負(fù)責(zé)任的AI方面，一方面，在開發(fā)AI時(shí)注重公平性，避免偏見確保AI系統(tǒng)具有透明性，決策可以被解釋，另一方面，在AI系統(tǒng)造成傷害發(fā)生時(shí)，也應(yīng)有相應(yīng)的納入問責(zé)和補(bǔ)償機(jī)制。在大模型應(yīng)用鏈條中的風(fēng)險(xiǎn)治理方面，在大模型的應(yīng)用前先分析預(yù)判可能存在的各項(xiàng)風(fēng)險(xiǎn)，金融機(jī)構(gòu)可以將AI模型風(fēng)險(xiǎn)納入整體風(fēng)險(xiǎn)管理框架，并建立專門的AI監(jiān)管報(bào)送平臺(tái)、流程和規(guī)范，集成多源數(shù)據(jù)，包括模型訓(xùn)練數(shù)據(jù)、運(yùn)行數(shù)據(jù)、監(jiān)控?cái)?shù)據(jù)等，實(shí)現(xiàn)數(shù)據(jù)的統(tǒng)一管理和分析，同時(shí)可以根據(jù)業(yè)務(wù)需求，將平臺(tái)劃分為不同的功能模塊，如數(shù)據(jù)采集模塊、風(fēng)險(xiǎn)識(shí)別模塊、報(bào)告生成模塊等，實(shí)現(xiàn)靈活配置和擴(kuò)展，及時(shí)披露模型決策機(jī)理、運(yùn)行邏輯和潛在風(fēng)險(xiǎn)。而加速GenAI加速嵌入金融業(yè)務(wù)場景。例如，通過與技術(shù)服務(wù)商（如ISV）合作，圖??在選擇技術(shù)服務(wù)商方面，目前比較看中下列哪些方面能力？數(shù)據(jù)主權(quán)和合規(guī)體系生成式AI性能和可擴(kuò)展性可用性和可靠性提供豐富的開箱即用的場景?.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?%來源：IDC，????尤其是在數(shù)據(jù)主權(quán)和合規(guī)體系建設(shè)方面，由于在金融領(lǐng)域，數(shù)據(jù)的敏感性極高，直接關(guān)系到客戶隱私、商業(yè)機(jī)密乃至國家安全。因此，金融機(jī)構(gòu)必須確保對其數(shù)據(jù)擁有絕對的控制權(quán)，即數(shù)據(jù)主權(quán)。技術(shù)服務(wù)商需能夠提供完善的數(shù)據(jù)管理機(jī)制，確保數(shù)據(jù)在采集、存儲(chǔ)、處理、傳輸?shù)雀鱾€(gè)環(huán)節(jié)中都能被金融機(jī)構(gòu)有效掌法》及《個(gè)人信息保護(hù)法》等），金融機(jī)構(gòu)在選擇技術(shù)服務(wù)商時(shí)，會(huì)重點(diǎn)考察其是否具備構(gòu)建和維護(hù)符合國內(nèi)外法律法規(guī)要求的合規(guī)體系的能力。這包括數(shù)據(jù)加第五章展望未來發(fā)展趨勢?.?大模型技術(shù)創(chuàng)新與發(fā)展趨勢隨著大模型技術(shù)的發(fā)展，大模型的參數(shù)規(guī)模也將顯著增長，如OpenAI的GPT系列模型、Google的PaLM，以及Meta的LLaMA。這些模型將具備更強(qiáng)的推理、生成和上下文理解能力。未來，這種趨勢也將繼續(xù)，其不僅能極大地提高大模型在具體場景中的應(yīng)用性能，也能提高大模型在具體應(yīng)用場景中的體驗(yàn)。多模態(tài)模型也將在金融行業(yè)普遍應(yīng)用。多模態(tài)模型能夠處理文本、圖像、音頻、視頻等多種類型的輸入，并且通過多模態(tài)融合與跨模態(tài)理解，可以更有效地用于各類復(fù)雜問題的求解，從而極大地豐富其應(yīng)用場景。例如，OpenAI的CLIP（將圖像和文本映射到相同的向量空間）、DALL-E（通過文本生成圖像）、Meta的ImageBind（支持六種模態(tài)，包括圖像、音頻、文本等）等。這些模型能夠在圖像識(shí)別、文本生成、音頻理解等多方面表現(xiàn)出色。這種多模態(tài)之間的融合也將使得AI大模型能更深刻地捕捉復(fù)雜場景背景、細(xì)節(jié)和情感，使其更快的感知和適應(yīng)場景，并能應(yīng)用于更加復(fù)雜的金融場景。AI智能體將迸發(fā)更大的應(yīng)用潛力。AIAgent是一種軟件程序或計(jì)算實(shí)體，它能夠通過傳感器或數(shù)據(jù)接口收集環(huán)境信息，運(yùn)用算法處理數(shù)據(jù)，制定決策或規(guī)劃行動(dòng)方案，并最終執(zhí)行這些決策以影響環(huán)境，實(shí)現(xiàn)預(yù)定目標(biāo)。AI智能體將成為下一代平臺(tái)，從Copilot副駕走向主駕，智能體的加速進(jìn)化，有望完成“感知-認(rèn)知-推理-決策-組織/行動(dòng)”的閉環(huán)，其在數(shù)據(jù)處理、智能決策與自然交互等方面的卓越能力，預(yù)示著它將在客戶服務(wù)、業(yè)務(wù)流程優(yōu)化、市場預(yù)測等多個(gè)關(guān)鍵領(lǐng)域發(fā)揮核心作用，為金融機(jī)構(gòu)帶來前所未有的價(jià)值創(chuàng)造。為了實(shí)現(xiàn)在復(fù)雜場景中的業(yè)務(wù)決策，金融機(jī)構(gòu)也可以引入Agent系統(tǒng)，以處理那些單靠提示詞難以實(shí)現(xiàn)的復(fù)雜業(yè)務(wù)場景，進(jìn)而達(dá)到高效的自動(dòng)化決策。尤其是在智能客服、智能質(zhì)檢/陪練等產(chǎn)品創(chuàng)新，以及風(fēng)險(xiǎn)評估、個(gè)性化金融咨詢以及智能評估場景，為用戶提供更加精準(zhǔn)、高效的服務(wù)。開源服務(wù)與開放生態(tài)成為主流趨勢。國內(nèi)外大模型開放平臺(tái)、開源模型/工具，能有效加速大模型技術(shù)演進(jìn)，金融機(jī)構(gòu)可以在開源基礎(chǔ)上進(jìn)行二次開發(fā)，滿足其個(gè)性化需求，賦予中小金融機(jī)構(gòu)使用前沿AI技術(shù)的能力，從而加速大模型在不同金融場景中的廣泛應(yīng)用。IDC認(rèn)為，未來大模型在金融領(lǐng)域的生態(tài)化發(fā)展，例如通過構(gòu)建大模型生態(tài)資源共享平臺(tái)，向金融機(jī)構(gòu)提供大模型應(yīng)用所需的全套資源，包含算力等基礎(chǔ)設(shè)施資源、通用大模型及各類專業(yè)領(lǐng)域小模型等多樣化的模型資源、金融業(yè)務(wù)的各類場景應(yīng)用資源，以及連接金融產(chǎn)品和服務(wù)終端用戶，是金融機(jī)構(gòu)大規(guī)模應(yīng)用生成式AI的主要路徑之一。軟硬件、工具之間協(xié)同也能優(yōu)化降低大模型開發(fā)和應(yīng)用成本。金融機(jī)構(gòu)可以充分利用硬件加速技術(shù)、優(yōu)化軟件架構(gòu)和構(gòu)建靈活的工具鏈，有效提升計(jì)算效率，減少資源消耗。NVIDIA、Google、Apple等公司都在開發(fā)專用AI加速芯片，以提高大模型訓(xùn)練和推理的效率。同時(shí)，通過分布式訓(xùn)練、跨平臺(tái)部署以及端到端工具鏈，使得模型能夠更加靈活地適配不同的硬件資源，并可以隨業(yè)務(wù)需求靈活擴(kuò)展或縮減規(guī)模。例如，NVIDIA推出的CUDA和TensorRT配合GPU硬件，不僅加速了訓(xùn)練過程，還在推理階段進(jìn)一步提升了運(yùn)行效率?；蛲ㄟ^硬件加速器（如TPU）和軟件框架支持的優(yōu)化算法，模型可以在推理中以較低的計(jì)算量實(shí)現(xiàn)較高的性能，從而推動(dòng)大模型高效訓(xùn)練與部署。?.?行業(yè)應(yīng)用場景的拓展趨勢當(dāng)前，阻礙大模型在金融行業(yè)應(yīng)用的主要因素之一是高昂的算力成本。在訓(xùn)練大模型或推理大模型過程中，金融機(jī)構(gòu)需要消耗較大的算力。通過使用分布式計(jì)算、云計(jì)算資源及高效的硬件設(shè)施（如GPU/TPU），將大模型的訓(xùn)練任務(wù)分配到多個(gè)GPU或TPU上，以并行處理的方式加快訓(xùn)練速度，可以降低模型訓(xùn)練的時(shí)間和成本。同時(shí)，通過優(yōu)化模型架構(gòu)，精簡網(wǎng)絡(luò)結(jié)構(gòu)、減少層數(shù)或神經(jīng)元數(shù)量，降低不必要的復(fù)雜性，有助于節(jié)省資源。通過構(gòu)建模型管理平臺(tái)，可以幫助金融機(jī)構(gòu)以模塊化設(shè)計(jì)方式復(fù)用不同任務(wù)間的共享組件；通過構(gòu)建可組合、可重用的模塊，不僅可以簡化訓(xùn)練過程，還能夠方便地遷移模型到其他領(lǐng)域或任務(wù)場景中，進(jìn)一步擴(kuò)展應(yīng)用場景、提升服務(wù)效能。未來，隨著大模型在預(yù)訓(xùn)練及推理過程中算力成本的降低以及模型性能的提升、模型架構(gòu)的優(yōu)化，其在管理和業(yè)務(wù)決策類場景（例如信貸審批、理財(cái)投顧等決策類場景）中也將發(fā)揮出更大的應(yīng)用價(jià)值，將作為業(yè)務(wù)決策的輔助決策者，與人類共同完成復(fù)雜的分析任務(wù)。通過模型提供的數(shù)據(jù)洞察和決策建議，決策者可以更加客觀、數(shù)據(jù)驅(qū)動(dòng)地做出判斷，提高整體決策水平。此外，通過大小模型協(xié)同也能驅(qū)動(dòng)金融機(jī)構(gòu)在更加多樣復(fù)雜的場景中的應(yīng)用。金融機(jī)構(gòu)應(yīng)加強(qiáng)研究和推進(jìn)大、小模型協(xié)同、生成式技術(shù)與傳統(tǒng)人工智能技術(shù)協(xié)同，大模型與小模型協(xié)同發(fā)展；大模型在自然語言處理、計(jì)算機(jī)視覺等領(lǐng)域展現(xiàn)出強(qiáng)大的能力，但同時(shí)面臨著高昂的計(jì)算資源需求；而小模型則通過精準(zhǔn)的數(shù)據(jù)集和優(yōu)化算法，能在特定任務(wù)上展現(xiàn)卓越性能，甚至超越某些大模型。尤其是在金融行業(yè)，大模型與小模型的結(jié)合也將為這些行業(yè)提供更全面、更高效的解決方案。大模型可以完成高維度、非結(jié)構(gòu)化數(shù)據(jù)的初步處理，而小模型則在關(guān)鍵節(jié)點(diǎn)進(jìn)行細(xì)化分析和快速?zèng)Q策，從而實(shí)現(xiàn)協(xié)同工作。例如金融機(jī)構(gòu)在反欺詐過程中，既需要識(shí)別復(fù)雜的欺詐模式，也需要在交易發(fā)生時(shí)實(shí)時(shí)做出快速?zèng)Q策。由于大量數(shù)據(jù)的復(fù)雜性，僅依靠大模型會(huì)帶來過高的計(jì)算成本和延遲。此時(shí)，如果通過大、小模型之間的協(xié)同，大模型對交易數(shù)據(jù)進(jìn)行模式分析和風(fēng)險(xiǎn)評估，識(shí)別出潛在的欺詐特征；而小模型則在交易時(shí)進(jìn)行快速篩查，驗(yàn)證是否符合風(fēng)險(xiǎn)特征庫中的條件，從而進(jìn)行實(shí)時(shí)預(yù)警，則可進(jìn)一步實(shí)現(xiàn)風(fēng)險(xiǎn)控制和即時(shí)響應(yīng)的平衡。第六章關(guān)于中電金信?.?中電金信公司介紹金融數(shù)智化轉(zhuǎn)型的領(lǐng)導(dǎo)者成立于????化咨詢及軟件提供商，以及重點(diǎn)行業(yè)數(shù)智化轉(zhuǎn)型服務(wù)的專家，我們致力于利用數(shù)智科技創(chuàng)造更美好的世界。秉承中國電子“打造國家網(wǎng)信事業(yè)戰(zhàn)略科技力量”的使命，中電金信通過持續(xù)的技術(shù)創(chuàng)新和參與國家重大工程，依托豐富的行業(yè)場景，構(gòu)建了新型數(shù)字基礎(chǔ)設(shè)施“源啟”。我們?yōu)榻鹑诩爸攸c(diǎn)行業(yè)的數(shù)智化轉(zhuǎn)型和安全發(fā)展提供全面的技術(shù)平臺(tái)、應(yīng)用軟件和專業(yè)技術(shù)服務(wù)，將中國的數(shù)智化轉(zhuǎn)型最佳實(shí)踐推向全球。全球布局與專業(yè)團(tuán)隊(duì)中電金信匯聚了?萬名國內(nèi)外員工，在全球??個(gè)城市設(shè)立了交付中心。??展歷程中，我們始終專注于行業(yè)需求，通過保障安全、加速創(chuàng)新、升級體驗(yàn)和優(yōu)化運(yùn)營，為客戶持續(xù)創(chuàng)造商業(yè)價(jià)值。我們已經(jīng)與???余家《財(cái)富》???建立了長期合作伙伴關(guān)系。合作共贏，聚焦成果轉(zhuǎn)化依托中國電子的核心技術(shù)優(yōu)勢和組織平臺(tái)，中電金信聯(lián)合科技領(lǐng)域的生態(tài)伙伴，以市場為導(dǎo)向，以研究院為載體，憑借強(qiáng)大的技術(shù)專家服務(wù)團(tuán)隊(duì)，融合先進(jìn)技術(shù)與創(chuàng)新基因。我們研發(fā)形成了從數(shù)字基礎(chǔ)設(shè)施、異構(gòu)集群管理、AI智算底座到數(shù)智化應(yīng)用的全方位解決方案，推動(dòng)行業(yè)的可持續(xù)發(fā)展。國際化視野與服務(wù)經(jīng)驗(yàn)多年的國際化戰(zhàn)略布局和豐富的海外服務(wù)經(jīng)驗(yàn)賦予了中電金信卓越的國際視野。我們拉通海內(nèi)外及行業(yè)間的技術(shù)體系和市場，引入國外的先進(jìn)技術(shù)及標(biāo)準(zhǔn)流程，更好地支撐金融及重點(diǎn)行業(yè)的數(shù)智化轉(zhuǎn)型。同時(shí)，我們?yōu)橹袊髽I(yè)走出去提供通道，以中國數(shù)智化轉(zhuǎn)型的最佳實(shí)踐服務(wù)全球。質(zhì)量與安全管理中電金信堅(jiān)持嚴(yán)格執(zhí)行質(zhì)量與安全管理原則，建立了符合國際標(biāo)準(zhǔn)的安全與質(zhì)量管控體系。我們已通過CMMIML?、ISO?????、ISO????、認(rèn)證，在軟件研發(fā)的項(xiàng)目管理、質(zhì)量管理和工程管理等方面均保持行業(yè)一流水平。行業(yè)領(lǐng)導(dǎo)者地位憑借出色的行業(yè)服務(wù)能力，中電金信在行業(yè)中確立了領(lǐng)先地位。自????IDC中國銀行業(yè)解決方案市場第一名，連續(xù)??年入選IDC全球金科技百強(qiáng)（IDCFinTechRankingsTop???），連續(xù)??.?中電金信人工智能產(chǎn)品及能力介紹中電金信面向金融、能源等重點(diǎn)行業(yè)，可提供智能平臺(tái)、智能模型和智能應(yīng)用的整體解決方案，幫助企業(yè)智能化轉(zhuǎn)型升級。下圖是中電金信AI領(lǐng)域的整體能力全景圖，公司在人工智能領(lǐng)域重點(diǎn)圍繞人工智能平臺(tái)、金融大模型、計(jì)算機(jī)視覺、知識(shí)圖譜等幾大領(lǐng)域進(jìn)行布局，通過多年的研發(fā)和沉淀，相關(guān)AI產(chǎn)品和能力已在一大批銀行、保險(xiǎn)、能源等行業(yè)客戶中應(yīng)用落地?！皟纱笃脚_(tái)+三大模型+N應(yīng)用領(lǐng)域”，提供智能平臺(tái)+智能模型+智能應(yīng)用的整體解決方案能力特色一專注金融行業(yè)場景的AI技術(shù)與產(chǎn)品特色二擁有完整的智能中臺(tái)解決方案特色三專屬大模型更懂行業(yè)智能營銷特色一專注金融行業(yè)場景的AI技術(shù)與產(chǎn)品特色二擁有完整的智能中臺(tái)解決方案特色三專屬大模型更懂行業(yè)智能營銷營銷文案生成智能風(fēng)控監(jiān)管合規(guī)問答智能服務(wù)監(jiān)管合規(guī)智能填報(bào)智慧辦公合同智能審核智能運(yùn)營智能視覺分析企微智能回復(fù)盡調(diào)報(bào)告生成客服智能助手企業(yè)知識(shí)問答OCR識(shí)別系統(tǒng)客戶畫像生成信貸經(jīng)理助手智能陪練智能公文寫作渠道身份鑒偽源啟金融大模型工業(yè)視覺大模型多模態(tài)智能鑒偽大模型行業(yè)人工智能平臺(tái)知識(shí)圖譜平臺(tái)金融級數(shù)字底座“源啟”決策智能化 運(yùn)營智能化 管理智能化 渠道數(shù)智化來源：中電金信，????智能算力底座與基礎(chǔ)智算能力供給中電金信的智能算力底座是支撐人工智能應(yīng)用和服務(wù)的基礎(chǔ)設(shè)施，提供高性能、高可靠性和高可擴(kuò)展性的計(jì)算資源。它集成了多種硬件和軟件能力，并優(yōu)化算力資源的接入、管理、調(diào)度和編排，形成了一個(gè)統(tǒng)一的計(jì)算平臺(tái)。該智算底座能夠?yàn)楦鞣N數(shù)據(jù)處理任務(wù)、訓(xùn)練框架、推理服務(wù)、智能應(yīng)用提供所需的計(jì)算資源和軟件能力，并顯著提升AI工作負(fù)載的運(yùn)行效率。統(tǒng)一賬號(hào)統(tǒng)一認(rèn)證統(tǒng)一權(quán)限安全審計(jì)靈活擴(kuò)展基礎(chǔ)框架 組件管統(tǒng)一賬號(hào)統(tǒng)一認(rèn)證統(tǒng)一權(quán)限安全審計(jì)靈活擴(kuò)展基礎(chǔ)框架 組件管租戶管理 項(xiàng)目管理 多集群管理 接入標(biāo)準(zhǔn) 部署適配服務(wù)與集成能力控制臺(tái)SDK/APICLI與其他異構(gòu)平臺(tái)集成算力市場容器實(shí)例虛擬機(jī)實(shí)例算力集群鏡像管理 ServerlessGPU算力管理與調(diào)度服務(wù)編排與部署 資源池化動(dòng)態(tài)調(diào)度GPU虛擬化 分區(qū)管理 優(yōu)先級/隊(duì)列管理裸金屬管理 異構(gòu)算力接入彈性伸縮云邊協(xié)同存儲(chǔ)對接配額管理監(jiān)控分析云服務(wù)適配、集成優(yōu)化云適配器資源抽象資源編排動(dòng)態(tài)調(diào)度插件管理內(nèi)置運(yùn)行時(shí)容器虛擬化 硬件虛擬化云資源/服務(wù)能力Kubernetes容器引擎異構(gòu)硬件 異構(gòu)硬件 NVIDIA華為AMD 中科海光 寒武紀(jì) 天數(shù)智芯沐曦其他算力資源數(shù)據(jù)中心算力數(shù)據(jù)中心算力云服務(wù)算力第三方加盟算力邊緣算力運(yùn)維與管理用戶管理運(yùn)維與管理用戶管理規(guī)格定義計(jì)量計(jì)費(fèi)統(tǒng)計(jì)報(bào)表算力概覽網(wǎng)絡(luò)管理資源管理監(jiān)控告警安全管理低延時(shí)、高吞吐網(wǎng)絡(luò)（NVLink、IB、RoCE等）源啟行業(yè)AI平臺(tái)（含大模型平臺(tái)）模型服務(wù)管理平臺(tái)機(jī)器學(xué)習(xí)建模平臺(tái)深度學(xué)習(xí)建模平臺(tái)模型服務(wù)管理平臺(tái)機(jī)器學(xué)習(xí)建模平臺(tái)深度學(xué)習(xí)建模平臺(tái)大模型開發(fā)平臺(tái)智能算力管理平臺(tái)融入大模型行業(yè)AI平臺(tái)融入了大模型的先進(jìn)功加強(qiáng)底層能力包括數(shù)據(jù)工程工具鏈和大模型的訓(xùn)能，確保模型能夠高效運(yùn)行。能力升級練微調(diào)，提高大模型的準(zhǔn)確性。優(yōu)化應(yīng)用性能通過推理加速和資源消耗的優(yōu)化，實(shí)現(xiàn)了大模型更快的運(yùn)行速度和更低的資源占用，提升整體性能。來源：中電金信，????該產(chǎn)品的核心亮點(diǎn)是：大模型應(yīng)用場景大模型應(yīng)用場景監(jiān)管制度智能問答監(jiān)督報(bào)送報(bào)告生成信貸盡調(diào)報(bào)告生成多模態(tài)智能鑒偽營銷內(nèi)容生成公文寫作反洗錢報(bào)告生成貸后催收話術(shù)生成提示工程知識(shí)庫管理組件Prompt模板 Prompt廣場 提示工程知識(shí)庫管理組件Prompt模板 Prompt廣場 知識(shí)導(dǎo)入 文檔解析 預(yù)置組件 組件接入 應(yīng)用構(gòu)建應(yīng)用開發(fā)開發(fā)模式管理 工作流串聯(lián)大模型應(yīng)用開發(fā)平臺(tái)Prompt管理Prompt優(yōu)化 知識(shí)切片 知識(shí)更新 組件規(guī)范 組件服務(wù) 體驗(yàn)配置記憶配置 應(yīng)用調(diào)試Prompt評估 Prompt服務(wù) 版本管理 召回測試 組件元信息組件市場 應(yīng)用發(fā)布效果評估 應(yīng)用市場模型管理服務(wù)發(fā)布與管理推理加速大模型服務(wù)平臺(tái)模型納管外部模型導(dǎo)入模型元信息 服務(wù)上下線 資源監(jiān)控APIKey緩存優(yōu)化 調(diào)度優(yōu)化 采樣優(yōu)化版本管理 模型資產(chǎn)管理模型業(yè)務(wù)管理 服務(wù)測試 白名單管理 高并發(fā) 模型優(yōu)化 算力優(yōu)化 國產(chǎn)算力適配全流程數(shù)據(jù)工程大模型訓(xùn)練大模型評估數(shù)據(jù)接入 數(shù)據(jù)去重 數(shù)據(jù)清洗 數(shù)據(jù)脫敏 問答對抽取 Lora微調(diào)QLora微調(diào)RLHF微調(diào) 語義評估裁判員評估大模型開發(fā)平臺(tái)數(shù)據(jù)標(biāo)注數(shù)據(jù)増強(qiáng) 數(shù)據(jù)分析 數(shù)據(jù)標(biāo)簽 數(shù)據(jù)版本 斷點(diǎn)續(xù)訓(xùn) 增量訓(xùn)練過程可視化 評估配置可視化報(bào)表學(xué)習(xí)框架 推理框架Transformer Tensor?ow Pytorch 中電加速推理框架 DeepSpeed VLLMAI算力管理異構(gòu)計(jì)算資源管理任務(wù)調(diào)度彈性擴(kuò)縮容AI算力平臺(tái)英偉達(dá)GPU華為昇騰沐曦天數(shù)飛騰能用上 能用起 廣泛用來源：中電金信，????平臺(tái)支持兩種大模型訓(xùn)練方式：SFT訓(xùn)練和RLHF訓(xùn)練。除常規(guī)訓(xùn)練方式外，還提供斷點(diǎn)續(xù)訓(xùn)和增量訓(xùn)練功能，支持容災(zāi)與模型能力的持續(xù)提升。智能營銷智能營銷智能風(fēng)控智能運(yùn)營智能服務(wù)智能影音客戶細(xì)分客戶細(xì)分貸前風(fēng)控貢獻(xiàn)度細(xì)分模型 客戶價(jià)值細(xì)分模型申請?jiān)u分模型 授信、定價(jià)模型RPA頁面元素識(shí)別智能客服語音識(shí)別ASR工業(yè)視覺視頻檢測資產(chǎn)偏好細(xì)分模型 活躍度細(xì)分模型風(fēng)險(xiǎn)評級模型 風(fēng)險(xiǎn)指數(shù)預(yù)測模型文本內(nèi)容識(shí)別意圖識(shí)別安全管控渠道偏好細(xì)分模型 時(shí)間偏好細(xì)分模型 申請欺詐模型(個(gè)人)黑名單目標(biāo)檢測文本內(nèi)容生成智能巡檢營銷響應(yīng)基金響應(yīng)模型客戶提升貴賓客戶提升模型貸中風(fēng)控OCR圖像質(zhì)量檢測智能外呼ASR缺陷檢測行為評分模型重新定價(jià)模型理財(cái)響應(yīng)模型 理財(cái)客戶提升模型提前還款模型 交易欺詐模型(個(gè)人)文字檢測文本比對施工安全監(jiān)管貸款產(chǎn)品響應(yīng)模型 代發(fā)客戶提升模型文本識(shí)別文本內(nèi)容生成貸后風(fēng)控 反欺詐/洗錢風(fēng)產(chǎn)品推薦模型 非貴賓客戶提升模型催收模型 申請網(wǎng)絡(luò)欺詐模型客戶流失貴賓客戶流失模型非貴賓客戶流失模型催收響應(yīng)模型交易網(wǎng)絡(luò)欺詐模型運(yùn)營優(yōu)化財(cái)務(wù)預(yù)測智能質(zhì)檢語義分析智能影音多語言翻譯人機(jī)對練培訓(xùn)損失預(yù)估模型反洗錢(關(guān)聯(lián)賬號(hào))經(jīng)營優(yōu)化決策語音識(shí)別互聯(lián)網(wǎng)內(nèi)容審核客戶價(jià)值關(guān)聯(lián)風(fēng)險(xiǎn)運(yùn)營管控智能寫稿系統(tǒng)多模態(tài)理解中收潛力模型是否有車模型借貸行為關(guān)聯(lián)識(shí)別 擔(dān)保關(guān)系關(guān)聯(lián)識(shí)別員工異常檢測模型智能寫作是否有房模型 客戶綜合價(jià)值模型 企業(yè)法人關(guān)聯(lián)識(shí)別交易關(guān)系關(guān)聯(lián)識(shí)別智能雙錄客戶價(jià)值等級模型 是否有孩模型經(jīng)營關(guān)系關(guān)聯(lián)識(shí)別投資關(guān)系關(guān)聯(lián)識(shí)別賬務(wù)異常波動(dòng)模型智能翻譯虛擬數(shù)字人來源：中電金信，????源啟金融行業(yè)大模型窗口長度:???K源啟金融行業(yè)大模型是中電金信自主研發(fā)的L?級金融大語言模型，采用主流的Decoder-only模型架構(gòu)，并在自有金融數(shù)據(jù)集上進(jìn)行多輪訓(xùn)練迭代后得到。該模窗口長度:???K參數(shù)規(guī)模：??B盡調(diào)報(bào)告生成信貸業(yè)務(wù)知識(shí)問答監(jiān)管合規(guī)查詢監(jiān)管數(shù)據(jù)智能報(bào)送金融產(chǎn)品營銷助手網(wǎng)點(diǎn)運(yùn)營助手參數(shù)規(guī)模：??B盡調(diào)報(bào)告生成信貸業(yè)務(wù)知識(shí)問答監(jiān)管合規(guī)查詢監(jiān)管數(shù)據(jù)智能報(bào)送金融產(chǎn)品營銷助手網(wǎng)點(diǎn)運(yùn)營助手賦能信貸業(yè)務(wù)賦能監(jiān)管合規(guī)賦能業(yè)務(wù)營銷賦能信貸業(yè)務(wù)賦能監(jiān)管合規(guī)賦能業(yè)務(wù)營銷源啟金融大模型新型架構(gòu)搜索增強(qiáng)知識(shí)庫專注金融行業(yè)安全增強(qiáng)模型結(jié)構(gòu):GQA行業(yè)大模型，領(lǐng)域問答更專精察能力，在信貸、監(jiān)管合規(guī)、貿(mào)易金融領(lǐng)域更專精。特色高效便捷部署多版本滿足不同部署需求，適配多款國產(chǎn)算力，支持私有化部署。

定向能力增強(qiáng)金融的核心需求如摘要、邏輯推理和計(jì)算能力，進(jìn)行了定向增強(qiáng)；通過多路召回、文檔高效解析等技術(shù)，有效增強(qiáng)大模型知識(shí)回答實(shí)效性。大模型高效推理模型優(yōu)化，推理引擎加速，有效提升了模型的響應(yīng)速度。來源：中電金信，????源啟工業(yè)視覺場景大模型源啟工業(yè)視覺大模型任務(wù)頭能力場景分類與識(shí)別 目標(biāo)檢測與定位源啟工業(yè)視覺大模型任務(wù)頭能力場景分類與識(shí)別 目標(biāo)檢測與定位語義分割與實(shí)例分割