大模型垂直領(lǐng)域落地的思路與實(shí)踐

恒生電子白碩2023.12.23轉(zhuǎn)型深度轉(zhuǎn)型深度識，行動實(shí)現(xiàn)決策智能化、管理科學(xué)化解決問題：信息處理效果：提升工作效率，解決信息孤島問題，業(yè)務(wù)流程標(biāo)準(zhǔn)化大模型推動第三次信息化浪潮行業(yè)實(shí)現(xiàn)互聯(lián)網(wǎng)+改造.服務(wù)器●個人電腦.服務(wù)器●個人電腦磁盤操作系統(tǒng).傳統(tǒng)AI.邊緣計(jì)算.Web-3大模型腦機(jī)接口Web大模型腦機(jī)接口移動互聯(lián)網(wǎng)碾壓式的技術(shù)革命-大模型-從AI任務(wù)層面看ChatGPTChatGPT識別更準(zhǔn)，效果更好，成本更低識別更準(zhǔn)，效果更好，成本更低01.極其精準(zhǔn)意圖識別能力02.上下文順暢的寫作能力03.對知識和邏輯的理解能力04.代碼生成能力大模型發(fā)展路線…Transformer上下文雙向，完形填空句法語義本體事理投行底稿生成銀行交易流水脫水研報(bào)研報(bào)檢索端到端交易投行底稿生成銀行交易流水脫水研報(bào)研報(bào)檢索端到端交易合同信息抽取合同審核智能客服智能外呼坐席培訓(xùn)投顧話術(shù)推薦投顧內(nèi)容質(zhì)檢投資建議報(bào)告撰寫基金營銷海報(bào)審核庫重構(gòu)數(shù)據(jù)生產(chǎn)庫重構(gòu)數(shù)據(jù)生產(chǎn)重構(gòu)軟件開發(fā)Vue代碼Vue代碼 恒生大模型產(chǎn)品技術(shù)棧恒生大模型產(chǎn)品技術(shù)棧連接安全合規(guī)數(shù)據(jù)通用工具鏈金融插件工具金融數(shù)據(jù)金融行業(yè)大模型LightGPT模型開發(fā)體系模型合作生態(tài)金融領(lǐng)域數(shù)據(jù)基礎(chǔ)大模型算力應(yīng)用應(yīng)用大模大模型基礎(chǔ)基礎(chǔ)嚴(yán)降金融大模型應(yīng)用現(xiàn)狀問題嚴(yán)降專專模型生成內(nèi)容和數(shù)據(jù)流動安全性合規(guī)監(jiān)管要求嚴(yán)格推理硬件成本要求高模型生成內(nèi)容和數(shù)據(jù)流動安全性合規(guī)監(jiān)管要求嚴(yán)格推理硬件成本要求高要求專業(yè)能力更強(qiáng)、更懂金融?LightGPT年內(nèi)升級線路圖2023.12.30基本和GPT3.5持平金融法律法規(guī)券法/公司法/等法律相關(guān)出版書籍(1500+本)價值觀數(shù)據(jù):學(xué)習(xí)強(qiáng)國/人民日報(bào)/黨章黨建（500萬tokens）剔除8大維度違規(guī)數(shù)據(jù)(總計(jì)1.5）模型安全模型安全?基礎(chǔ)模型使用?生成內(nèi)容安全?服務(wù)透明度?內(nèi)容生成準(zhǔn)確性?內(nèi)容生成可靠性?超過8000條安全指令和強(qiáng)化學(xué)習(xí)數(shù)據(jù)模型評估模型評估?1.基礎(chǔ)安全評估：超過5000條安全評測數(shù)據(jù)，合格率大于97%。?2.金融監(jiān)管評估：新增金融法律法規(guī)遵從3500條評測數(shù)據(jù)?3.生成內(nèi)容安全評估：應(yīng)拒答率不低于95%（國家史、英烈等）?4.內(nèi)容拒答評估：拒答率不高于5%其他安全措施其他安全措施?敏感詞庫（20萬+）?應(yīng)急干預(yù)措施（分鐘級?內(nèi)容過濾模型（訓(xùn)練語料內(nèi)容過波、生成內(nèi)容安全評估，應(yīng)，支持31種風(fēng)險檢測）八大評價維度政治敏感偏見歧視違法犯罪隱私財(cái)產(chǎn)倫理道德臟話侮辱心理健康身體傷害語種強(qiáng)化數(shù)據(jù)領(lǐng)域強(qiáng)化數(shù)據(jù)應(yīng)用強(qiáng)化數(shù)據(jù)語種強(qiáng)化數(shù)據(jù)領(lǐng)域強(qiáng)化數(shù)據(jù)應(yīng)用強(qiáng)化數(shù)據(jù)更加專業(yè)的金融語料積累處理類別數(shù)據(jù)源原tokens數(shù)(Billion)生效tokens數(shù)量(Billion)采樣次數(shù)金融公有數(shù)據(jù)金融教材和書籍（宏觀經(jīng)濟(jì)學(xué)&經(jīng)濟(jì)管理等）法律法規(guī)（合同法、市場監(jiān)管、政策文件等）2研報(bào)資訊、公告金融私有數(shù)據(jù)自有代碼對話合同其他（元數(shù)據(jù)等）英語wikipedia5arXivGithub4Books6C4中文中文維基百科常識書籍和教材(中國百科全書、高中等教材等)中外名著&文學(xué)三大連接整體規(guī)劃內(nèi)容生產(chǎn)云組件Prompt場景化模板定制Prompt一體化配置平臺AI問答組件風(fēng)格|語氣|表達(dá)方式數(shù)據(jù)|合規(guī)|知識庫整體規(guī)劃內(nèi)容生產(chǎn)云組件Prompt場景化模板定制Prompt一體化配置平臺AI問答組件風(fēng)格|語氣|表達(dá)方式數(shù)據(jù)|合規(guī)|知識庫觀點(diǎn)|內(nèi)參|報(bào)告靈感|創(chuàng)意|點(diǎn)子文案|話術(shù)|策略標(biāo)簽數(shù)據(jù)量化因子研報(bào)數(shù)據(jù)特色數(shù)據(jù)AIGCSaaSAIGCSaaS服務(wù)產(chǎn)品合同、補(bǔ)充協(xié)議、招募說明書、托管協(xié)議、其他產(chǎn)品文件國家法律、行政法規(guī)、部門規(guī)章、規(guī)范性文件、行業(yè)自律規(guī)則解讀參與制定與解讀合規(guī)系統(tǒng)設(shè)置交易合規(guī)控制投資策略制定與執(zhí)行合規(guī)檢測合規(guī)智能中心助手投資合規(guī)要求咨詢布的《公開募集證券投資基金投產(chǎn)品合同、補(bǔ)充協(xié)議、招募說明書、托管協(xié)議、其他產(chǎn)品文件國家法律、行政法規(guī)、部門規(guī)章、規(guī)范性文件、行業(yè)自律規(guī)則解讀參與制定與解讀合規(guī)系統(tǒng)設(shè)置交易合規(guī)控制投資策略制定與執(zhí)行合規(guī)檢測合規(guī)智能中心助手投資合規(guī)要求咨詢布的《公開募集證券投資基金投資顧問業(yè)務(wù)管理規(guī)定》有哪些投2、基金中基金（FOF）投資應(yīng)該遵循哪些投資合規(guī)要求？合規(guī)分析數(shù)據(jù)推送與處置案例：1、基金總資產(chǎn)超過基金凈資產(chǎn)的百分之一百四十。該條款的設(shè)置方案是什么？2、基金總資產(chǎn)超過基金凈資產(chǎn)的百分之一百四十。該條款的設(shè)置方案是什么？整整體規(guī)劃投委會、風(fēng)控會、其他內(nèi)部規(guī)定參與制定與解讀參與制定與解讀光子賦能投資合規(guī)場景：光子賦能投資合規(guī)場景：1、合規(guī)系統(tǒng)一鍵式規(guī)則自動生2、合規(guī)要求語義識別、合規(guī)系統(tǒng)計(jì)算邏輯及應(yīng)用智能咨詢問整體整體規(guī)劃賦能每一次溝通最好的策略無論是在IM/企業(yè)微信上還是在電話中與客戶交流，只需輸入簡單的指令，就能根據(jù)會話記錄實(shí)時分析客戶意圖，精準(zhǔn)定位客戶標(biāo)簽，自動檢索話題相關(guān)金融產(chǎn)品及資訊信息，生成專業(yè)的觀點(diǎn)和建議。光子，讓您成為溝通達(dá)人、業(yè)務(wù)能手、產(chǎn)品專家、財(cái)管大咖。?光子.善策（投顧助手）數(shù)字人數(shù)字人投教數(shù)字人投顧數(shù)字人客服產(chǎn)品特性確度從80%提升至95%以上投監(jiān)規(guī)則智能解析復(fù)用參數(shù)內(nèi)容精準(zhǔn)定位公募年報(bào)審計(jì)內(nèi)容智能錄入審核chatMiner文檔挖掘：招股書/定報(bào)/研報(bào)chatMiner文檔挖掘：招股書/定報(bào)/研報(bào)搜索+大模型+聚源庫文檔+向量數(shù)據(jù)庫+大模型寫作GPT寫作GPT輔助寫大綱、段落語音轉(zhuǎn)文字、片段對齊金融大語言模型?數(shù)智能力：彌漫式賦能各業(yè)務(wù)場景到處不可或缺到處引發(fā)變革?投資決策三大件：數(shù)據(jù)、計(jì)算與推理投資決策投資決策數(shù)據(jù)可視化流程自動化交互多模態(tài)23推理能力計(jì)算能力推理能力計(jì)算能力投研數(shù)據(jù)中臺：公共/私有/另類拉通投研數(shù)據(jù)中臺：公共/私有/另類拉通數(shù)據(jù)治理數(shù)據(jù)安全云原生底座推理能力推理的歷史亞里士多德名家萊布尼茨布爾弗雷格羅素希爾伯特哥德爾王浩古典（形式）邏輯數(shù)字邏輯數(shù)理邏輯實(shí)用（認(rèn)知）邏輯人類對自身理性的發(fā)掘、認(rèn)識、駕馭并予以自動化的過程人類對自身理性的發(fā)掘、認(rèn)識、駕馭并予以自動化的過程結(jié)果 類比（analogy）演繹(deduction)原因溯因（abduction）歸納（induction）結(jié)果 類比（analogy）演繹(deduction)原因溯因（abduction）歸納（induction）一般演繹演繹deduction）特殊半可判定可判定半可判定可判定可判定，在命題邏輯部分為P抽取知識抽取知識淺推理查詢錢淺推理查詢