2024大模型生成式AI發(fā)展與科技創(chuàng)新范式

大模型生成式AI發(fā)展與科技創(chuàng)新范式ChatGPT的發(fā)展歷程ChatGPT的發(fā)展歷程ChatGPT在。ChatGPTGPT（GenerativePre-trainedTransformer）GPT-2GPT-3lnstructGPTChat-GPTGPT-2GPT-3lnstructGPTChat-GPT2018年OpenAl推出2018年OpenAl推出初代GPT模型，該模型的核心是Transformer結(jié)構(gòu),其參數(shù)量達到1.17億。GPT-1采取預(yù)訓(xùn)練+下游任務(wù)微調(diào)兩個階段學(xué)習(xí)，在BookCorpus數(shù)據(jù)集(5G)上進行訓(xùn)練，再通過特定下游任務(wù)來微調(diào)和推廣模型。GPTGPT-2是在WebText數(shù)據(jù)集(40GB)上訓(xùn)練的，有超過15億個參數(shù)。GPT-2在GPT-1的甚礎(chǔ)上，采用預(yù)訓(xùn)練+零樣本(ZeroShot)設(shè)定下游任務(wù)，即不進行訓(xùn)練或微調(diào)，其在閱讀理解、翻譯、問答等任務(wù)時表現(xiàn)出強大的性能。

2020年擁有1750億個參數(shù)。它在“CommonCrawl”等數(shù)據(jù)集(45TB)進行訓(xùn)練。在基礎(chǔ)上，采用預(yù)訓(xùn)練+少樣本(Few-shot)設(shè)定下游任務(wù)的學(xué)習(xí)方式，可以執(zhí)行編寫代碼片段，生成類似人類的文本。

2022年InstructGPT具有1300億參數(shù)，它在GPT-3的基礎(chǔ)上采用預(yù)訓(xùn)練+人類反饋的強化學(xué)習(xí)(RLHF)的學(xué)習(xí)方式。比GPT-3更擅長遵循指令，產(chǎn)生的輸出具有上下文豐富性，可以產(chǎn)生更符合用戶期望的輸出。

2023年ChatGPT模型在InstructGPT的基礎(chǔ)上優(yōu)化了數(shù)據(jù)收集設(shè)置ChatGPT在人與人對話的數(shù)據(jù)集上進行了訓(xùn)練，它以對話方式進行交互，并進行了微調(diào)以生成更具吸引力、完善和個性化的響應(yīng)。ChatGPT的技術(shù)突破ChatGPT的技術(shù)突破ChatGPT之所以能夠突破，是因為采用了一系列深度學(xué)習(xí)的新技術(shù)，包括無監(jiān)督學(xué)習(xí)、有監(jiān)督學(xué)習(xí)、多任務(wù)學(xué)習(xí)、小樣本學(xué)習(xí)、自監(jiān)督學(xué)習(xí)以及基于人類反饋的強化學(xué)習(xí)。

除采用一系列深度學(xué)習(xí)新技術(shù)外，ChatGPT有以下技術(shù)特點。無監(jiān)督學(xué)習(xí) 有監(jiān)督學(xué)

多任務(wù)學(xué)習(xí)

預(yù)訓(xùn)練與微調(diào)：類腦自然啟示……小樣本學(xué)習(xí)類腦自然啟示……基于人類反饋的強化學(xué)習(xí)……

的預(yù)訓(xùn)練，再在特定任務(wù)上進行微調(diào)，可以使得模型具有更好的泛化能力和更高的準(zhǔn)確率。多層架構(gòu)：模型由多個動態(tài)擴展：大規(guī)模語料庫：大模型的定義與價值大模型的定義與價值是對原有算法模型的技術(shù)升級，基于海量數(shù)據(jù)開發(fā)預(yù)訓(xùn)練模型，到最終用戶環(huán)境中使用少量數(shù)據(jù)即可獲得比之前的算法模型更好的結(jié)果要點：1）預(yù)訓(xùn)練型學(xué)習(xí)了多少數(shù)據(jù)，2）遷移學(xué)習(xí)的效果如何，3）部署的整體成本如何并不是所有大模型參數(shù)都參與訓(xùn)練，單體模型的參數(shù)會全部參與訓(xùn)練，稀疏模型中只有部分參數(shù)參與運算大模型的定義廠商宣傳中常提到千億級、萬億級參數(shù)為大模型、超大模型。實際在產(chǎn)業(yè)落地階段，超級預(yù)訓(xùn)練大模型主要具備以下特征：①預(yù)訓(xùn)練模型學(xué)習(xí)過海量數(shù)據(jù)②用戶端模型二次開發(fā)僅需少量數(shù)據(jù)③相比上一代的算法模型有更高的預(yù)測準(zhǔn)確度原子能力是對原有算法模型的技術(shù)升級，基于海量數(shù)據(jù)開發(fā)預(yù)訓(xùn)練模型，到最終用戶環(huán)境中使用少量數(shù)據(jù)即可獲得比之前的算法模型更好的結(jié)果要點：1）預(yù)訓(xùn)練型學(xué)習(xí)了多少數(shù)據(jù)，2）遷移學(xué)習(xí)的效果如何，3）部署的整體成本如何并不是所有大模型參數(shù)都參與訓(xùn)練，單體模型的參數(shù)會全部參與訓(xùn)練，稀疏模型中只有部分參數(shù)參與運算大模型的定義廠商宣傳中常提到千億級、萬億級參數(shù)為大模型、超大模型。實際在產(chǎn)業(yè)落地階段，超級預(yù)訓(xùn)練大模型主要具備以下特征：①預(yù)訓(xùn)練模型學(xué)習(xí)過海量數(shù)據(jù)②用戶端模型二次開發(fā)僅需少量數(shù)據(jù)③相比上一代的算法模型有更高的預(yù)測準(zhǔn)確度原子能力行業(yè)應(yīng)用

微調(diào) 應(yīng)用設(shè)備知識庫智能問數(shù)設(shè)備知識庫智能問數(shù)智能客服知識搜索線路巡檢安全生產(chǎn)……智能對話智能創(chuàng)作智能問答文檔理解目標(biāo)監(jiān)測圖像分割……市場對于超大模型的看法開發(fā)門檻的降低：用戶可以在Al原子能力的基礎(chǔ)上實現(xiàn)自定義模型，無需關(guān)注模型細節(jié)計算資源的降低：預(yù)訓(xùn)練由廠商提供，用戶側(cè)只需進行小數(shù)據(jù)量的再訓(xùn)練開發(fā)門檻的降低：用戶可以在Al原子能力的基礎(chǔ)上實現(xiàn)自定義模型，無需關(guān)注模型細節(jié)計算資源的降低：預(yù)訓(xùn)練由廠商提供，用戶側(cè)只需進行小數(shù)據(jù)量的再訓(xùn)練預(yù)測效果的提升：研究與實踐均表明，使用大模型的效果比之前的模型效果相比，均有不同程度的提升大模型的價值自監(jiān)督學(xué)習(xí)文本知識圖像視頻……市場上可見的大模型日益豐富市場上可見的大模型日益豐富廠商大模型廠商大模型廠商大模型MetaLlaMA字節(jié)跳動——微軟、微軟亞洲研究院MegatronTuring(&英偉達)、NUWA(&北大)googlePaLMOpenGVLab（商湯平臺）基于書生的超高效預(yù)訓(xùn)練模型北京智源人工智能研究院悟道2.0商湯科技（&上交等）書生（INTERN）清華大學(xué)GLM-1308、CokeBert（&騰訊）京東——北京大學(xué)鵬程·盤古α（&鵬程&華為）（資料少，不確定含北大）、NUWA（微軟亞洲）DeepMindGopherOPPOOBERTNVIDIA英偉達NeMoLLM粵港澳大灣區(qū)數(shù)字經(jīng)濟研究院（IDEA研究院）二郎神中國科學(xué)院紫東太初浪潮源1.0智能大模型美團——華為云鵬程·盤古α（&鵬程&華為）奇點智源SkyCode多語言開源編程大模型瀾舟科技孟子騰訊混元AI大模型追一科技RoFormerV2快手——百度文心一言鵬程實驗室鵬程·盤古α（&北大&華為）OpenAIGPT-4云從科技SemBERT（&上海交通大學(xué)）阿里巴巴達摩驗室M6、“通義”大模型聯(lián)匯科技OmModel核心技術(shù)層協(xié)同發(fā)展，共同賦能AI大模型生態(tài)核心技術(shù)層協(xié)同發(fā)展，共同賦能AI大模型生態(tài)文字生成音頻生成圖像生成視頻生成虛擬人/場景生成代碼生成策略生成多模態(tài)生成文字生成音頻生成圖像生成視頻生成虛擬人/場景生成代碼生成策略生成多模態(tài)生成AI模型生產(chǎn)工具 深度學(xué)習(xí)框架/開源模型 預(yù)訓(xùn)練大模型 訓(xùn)練/AI開發(fā)平臺 AI算力基礎(chǔ)硬件設(shè)施 AI芯片 云計算與云服務(wù) 智能計算平臺 智能服務(wù)器 數(shù)據(jù)整合 第三方合規(guī)數(shù)據(jù) 外部合規(guī)數(shù)據(jù) 數(shù)據(jù)標(biāo)注結(jié)構(gòu)化 算力資源 儲存資源 網(wǎng)絡(luò)資源 安全資源 技術(shù)層基礎(chǔ)層能力層用戶層應(yīng)用層企業(yè)級用戶政府機構(gòu)用戶大眾消費者用戶企業(yè)服務(wù)金融服務(wù)零售電商傳媒/影視教育/科研游戲工業(yè)醫(yī)療政務(wù)……多語言模型 語言理解與生成 語音語義理解 多模態(tài)對話NLP大模型開放域?qū)υ?信息抽取與檢索 文本語義與圖結(jié)構(gòu) 代碼生成和理解圖像表征 視頻表征 圖像生成 多語言模型 語言理解與生成 語音語義理解 多模態(tài)對話NLP大模型開放域?qū)υ?信息抽取與檢索 文本語義與圖結(jié)構(gòu) 代碼生成和理解圖像表征 視頻表征 圖像生成 視頻生成CV大模型圖像與物體檢測 語義分割 圖像分類 因果推斷多模態(tài)大模型 視覺-語言 語音-語言 智能文檔理解 多模態(tài)檢測與分割人工智能 機器學(xué)習(xí) 計算機視覺 智能語音 知識圖譜 自然語言理解AI目前，Transformer架構(gòu)在AI導(dǎo)地位，如BERTGPT系列等。AI大模型包括NLP大模型、CV大模型、多模態(tài)大模型等。這些模型采用預(yù)訓(xùn)練和微調(diào)的策略，先在大量無標(biāo)注數(shù)據(jù)上學(xué)習(xí)語言或圖像的基本表示，然后針對特定任務(wù)進行微調(diào)。AI

AI大模型的技術(shù)架構(gòu)AI市場高景氣，大模型下游行業(yè)需求旺盛AI市場高景氣，大模型下游行業(yè)需求旺盛,20223,7162027年將達到15,372,中國人工智能行業(yè)市場規(guī)模，2021-2027E18,000單位：人民幣億元16,000中國人工智能行業(yè)市場規(guī)模，2021-2027E18,000單位：人民幣億元16,00014,72915,73214,00012,000+34%10,53910,0008,0007,5166,0005,3234,0003,7162,6072,000-2021 20222023E2024E2025E2026E2027EAI大模型典型應(yīng)用場景來源：頭豹研究院從決策到生成，AI技術(shù)與應(yīng)用迎來跨越發(fā)展從決策到生成，AI技術(shù)與應(yīng)用迎來跨越發(fā)展前神經(jīng)網(wǎng)絡(luò) 專家系統(tǒng) 概率推論 神經(jīng)網(wǎng)絡(luò) 基礎(chǔ)模型 大規(guī)模模型年以前 2012年至今決策式/分析式時代 生成式急速發(fā)展20141956感知器模型

1980sProlog&Lisp

1990s機器學(xué)習(xí)算法

2011

2012DNNs

GAN

2017Transformer網(wǎng)絡(luò)結(jié)構(gòu)進化

2020GPT-3能夠完成

2021CLIP以40億個文本-圖像

2022DALL·E2由文本生成AI學(xué)科成立

專家系統(tǒng)解答特定領(lǐng)域的問題 1994GroupLens首個自動化推薦系統(tǒng)

IBM沃森益智問答打敗人類

物體識別自動駕駛

型打下基礎(chǔ)

NLP

對為訓(xùn)練數(shù)據(jù)實現(xiàn)文本到圖像跨模態(tài)

獨創(chuàng)性圖像AI繪畫AI的急速發(fā)展使得AI模型在手寫識別、語音識別、圖像識別、閱讀理解、語言理解等領(lǐng)域的表現(xiàn)加速超越人類平均水平推薦算法AI的急速發(fā)展使得AI模型在手寫識別、語音識別、圖像識別、閱讀理解、語言理解等領(lǐng)域的表現(xiàn)加速超越人類平均水平機器語言翻譯資料來源：Dynabench:RethinkingBenchmarkinginNLP,GoogleScholar,indigox.me，公司官網(wǎng)AIGC當(dāng)前典型應(yīng)用：數(shù)字內(nèi)容生成AIGC當(dāng)前典型應(yīng)用：數(shù)字內(nèi)容生成典型的AIGC基礎(chǔ)模型01?典型的AIGC基礎(chǔ)模型01?OpenAI的GPT-3（大型語言模型[LLM]）、DALL-E2（圖像模型），以及Whisper（語音識別模型）Stability.ai的stableDiffusion（）Midjourney（圖像模型）PaLM和LaMDA（）大型語言模型）Make-a-video（視頻模型）和data2vec（微軟的DeepNet（和MetaLM（多模態(tài)）02落地場景數(shù)字人/虛擬助理美術(shù)設(shè)計產(chǎn)品海報設(shè)計生成式AI企業(yè)應(yīng)用案例：知識管理&代碼生成生成式AI企業(yè)應(yīng)用案例：知識管理&代碼生成用戶案例：在一家行業(yè)領(lǐng)先的審計、咨詢、稅務(wù)和顧問服務(wù)機構(gòu)的六周試點中，有55用戶案例：在一家行業(yè)領(lǐng)先的審計、咨詢、稅務(wù)和顧問服務(wù)機構(gòu)的六周試點中，有55名開發(fā)人員參加，生成式AI確性為65%，代碼開發(fā)速度提高20%。Viable聚合來自服務(wù)臺票據(jù)、調(diào)查、CRM和評論的定性數(shù)據(jù)，以幫助團隊了解客戶對其產(chǎn)品的看法和感受客戶反饋的準(zhǔn)確性從66%提高到90%。C3.ai宣布推出C3GenerativeAlforEnterpriseSearch：使用自然語言界面快速定位、檢索和呈現(xiàn)企業(yè)信息系統(tǒng)整個語料庫中的所有相關(guān)數(shù)據(jù)。知識管理類應(yīng)用 代碼生成知識管理類應(yīng)用代碼生成微軟Copilot：1）代碼翻譯，2）代碼自動完成，3）從自然語言到代碼。GPT-3的微軟Copilot：1）代碼翻譯，2）代碼自動完成，3）從自然語言到代碼。GPT-3的Codex程序：一種機器學(xué)習(xí)模型，專門為代碼生成而訓(xùn)練，可以產(chǎn)生各種不同語言的代碼。Lucy將生成式AI用于知識管理：LucySynopsis美國跨國投資管理和金融服務(wù)公司&OpenAl的GPT-3對財富管理內(nèi)容的培訓(xùn)進行微調(diào)，以便金融顧問能夠搜索公司中的現(xiàn)有知識，并為客戶輕松創(chuàng)建定制內(nèi)容。采用其生成式AI來閱讀組織中的信息，提供獨特的兩到三句話摘要回應(yīng)，直接準(zhǔn)確地回答用戶的問題。AmazonCodeWhisperer：人工智能編程助手，理解用戶的初始提示來自動完成軟件代碼。Yext使用生成式人工智能，為其知識圖譜引入自動內(nèi)容生成。微軟宣布新的AmazonCodeWhisperer：人工智能編程助手，理解用戶的初始提示來自動完成軟件代碼。Yext使用生成式人工智能，為其知識圖譜引入自動內(nèi)容生成。微軟宣布新的Bing和Edge——有限預(yù)覽階段。生成式AI企業(yè)應(yīng)用案例：銷售營銷&其他生成式AI企業(yè)應(yīng)用案例：銷售營銷&其他制造業(yè)通用汽車：與歐特克工程師合作，為座椅支架創(chuàng)造了150個40%和強度20%的最終設(shè)計。制造業(yè)通用汽車：與歐特克工程師合作，為座椅支架創(chuàng)造了150個40%和強度20%的最終設(shè)計。Armour：出具有靈活性和穩(wěn)定性最佳組合的鞋子。菲利普·結(jié)合起來：我們?nèi)绾尾拍苡米钌俚牟牧?？設(shè)計師和人工智能合作產(chǎn)生—種非常規(guī)但高效的椅子設(shè)計。金融業(yè)投資組合優(yōu)化知識管理醫(yī)療領(lǐng)域生成式AI護理點提供與病人和治療醫(yī)生相關(guān)的簡明總結(jié)。Profluent：使用生成式人工智能來設(shè)計蛋白質(zhì)。Absci——生成式人工智能藥物創(chuàng)造公司：算機上“從頭”設(shè)計新的抗體Slack新ChatGPT：提供即時對話摘要、研究工具和寫作協(xié)助。SalesforceEinsteinGPT：在銷售、服務(wù)、營銷、商業(yè)和IT互動中，超大規(guī)模提供人工智能創(chuàng)造的內(nèi)容。AdobeExpress：通過提示生成模板，或根據(jù)描述創(chuàng)建獨特的文本效果。目前主要集中在圖像方面，未來將包括視頻、3D設(shè)計、紋理創(chuàng)作、標(biāo)志設(shè)計等等。Rephrase.aiSynthesia：可以制作博客、社交媒體帖子、網(wǎng)絡(luò)副本、銷售電子郵件、廣告和其他類型的面向客戶的內(nèi)容。Jasper：可以制作博客、社交媒體帖子、網(wǎng)絡(luò)副本、銷售電子郵件、廣告和其他類型的面向客戶的內(nèi)容。MicrosoftVivaSales：幫助賣家更有效地與潛在客戶和顧客溝通銷售和營銷 特定行業(yè)用例銷售和營銷特定行業(yè)用例AI大模型技術(shù)創(chuàng)新，助推生成式AI應(yīng)用場景加速落地AI大模型技術(shù)創(chuàng)新，助推生成式AI應(yīng)用場景加速落地伴隨繪畫與ChatGPT生成式AI是指基于大模型、生成對抗網(wǎng)絡(luò)GAN等人工智能技術(shù)，ChatGPTMidjourneyCodex為代表的生成式AIAI應(yīng)用來提高自身工作效率，尤其以文生圖應(yīng)用為主。生成式生成式AI內(nèi)容，生成的內(nèi)容質(zhì)量將持續(xù)超越UGCPGC。未來有望為各行業(yè)提供內(nèi)容支持并促進其內(nèi)容繁榮，最大化釋放內(nèi)容生產(chǎn)力。生成式AI3-5垃圾郵件識別翻譯基礎(chǔ)問答基礎(chǔ)文案寫作起草初稿更長的文字完成第二稿垂直微調(diào)科學(xué)論文垃圾郵件識別翻譯基礎(chǔ)問答基礎(chǔ)文案寫作起草初稿更長的文字完成第二稿垂直微調(diào)科學(xué)論文高于人類平均水平的終稿寫作產(chǎn)出比職業(yè)作家寫得更好的終稿單行代碼多行代碼生成更長的代碼多程序語言文本到產(chǎn)品（草稿）產(chǎn)出比全職開發(fā)人員做得更好的文本到產(chǎn)品（終稿）藝術(shù)作品Logo設(shè)計攝影產(chǎn)品設(shè)計模型產(chǎn)品設(shè)計模型建筑模型產(chǎn)出比專業(yè)藝術(shù)家、設(shè)計師、攝影師做得更好的終稿基礎(chǔ)/初稿視頻及3D文件第二稿AIRoblox產(chǎn)出基于個性化夢想的電子游戲和電影視頻/3D/游戲

大模型發(fā)展及相關(guān)應(yīng)用實現(xiàn)落地時間表2020年前 2020 2022 2025？ 2030？ 2050？可用的大模型：

初步探索

基本形成

準(zhǔn)備階段大模型迎來發(fā)展新機遇，未來前景可期大模型迎來發(fā)展新機遇，未來前景可期++下游需求展契機通過數(shù)據(jù)交互和任務(wù)反饋，優(yōu)秀的大模型能夠賦能各行各業(yè)開放任務(wù)，滿足對未來AI應(yīng)用的期待。展望未來，大模型“訓(xùn)練基礎(chǔ)設(shè)施–底層技術(shù)–基礎(chǔ)應(yīng)用–

優(yōu)秀的大模型能夠賦能各行各業(yè)開放任務(wù)基礎(chǔ)設(shè)施支撐 頂層設(shè)計優(yōu)化 下游需求旺盛基礎(chǔ)設(shè)施支撐頂層設(shè)計優(yōu)化下游需求旺盛垂直應(yīng)用”發(fā)展路線逐漸清晰，隨著底層技術(shù)逐步革新，基模型和領(lǐng)域大模型持續(xù)完善，大模型應(yīng)用邊界不斷拓寬，將加速賦能交通、醫(yī)療、金融等各個行業(yè)和領(lǐng)域，引發(fā)一場以強人工智能和通用人工智能為代帶來深刻的經(jīng)濟、社會和產(chǎn)業(yè)變革。

智慧交通

數(shù)據(jù)交互

基模型

AI教育 智能手機任務(wù)反饋 智能汽車智慧樓宇發(fā)現(xiàn)發(fā)現(xiàn)人工智能的政策引導(dǎo)逐漸覆蓋到大模型生態(tài)，并開始出臺相應(yīng)的生成式AI監(jiān)管建議，進一步支撐大模型生態(tài)的有序發(fā)展；大模型的神經(jīng)網(wǎng)絡(luò)架構(gòu)和訓(xùn)練大模型的AI基礎(chǔ)設(shè)施，均逐漸發(fā)展成熟，推動大模型的生產(chǎn)更加系統(tǒng)化和工程化；AI部署需求進一步規(guī)?；l(fā)展，急需在上游大模型支撐下，獲得AIAI規(guī)模化部署的成本；大模型的發(fā)展趨于通用化與專用化并進，平臺化與簡易化并進；ModelasaService，大模型建立起面向政企、消費者群體等差異化的商業(yè)模式，并逐漸形成基模型、領(lǐng)域、行業(yè)大模型一體的商業(yè)化架構(gòu)。

智慧金融大模型的多種價值，將加速人工智能的技術(shù)進步和規(guī)?；瘧?yīng)用大模型的多種價值，將加速人工智能的技術(shù)進步和規(guī)?；瘧?yīng)用實現(xiàn)了對傳統(tǒng)技術(shù)的突破。一方面，大模型可以幫助降低機器學(xué)習(xí)和自然語言處理應(yīng)用的開發(fā)門檻，能夠?qū)?fù)雜的模式和規(guī)律進行更準(zhǔn)確的建模，通過不斷地學(xué)習(xí)和更新自己的參數(shù)來提高其性能和準(zhǔn)確度，提高模型的精度，更好地泛化到新的數(shù)據(jù)集和任務(wù)中。另一方面，大模型通常能夠更好地泛化到新的數(shù)據(jù)集和任務(wù)中，可以提高內(nèi)容生成質(zhì)量和效率，例如生成對話、摘要、翻譯等。除此之外，大模型的開源性和可復(fù)制性可增強生態(tài)繁榮度，從而加速人工智能技術(shù)的進步和應(yīng)用。

構(gòu)建高質(zhì)量的模型。

大模型的五大基本價值增強模型泛化能力更多細節(jié)，更好地泛化到新的數(shù)據(jù)集和任務(wù)中。大模型的基本價值

提高內(nèi)容生成質(zhì)量和效率大模型可以更好地捕捉和分析摘要、翻譯等。增強生態(tài)繁榮度大模型的開源性和可復(fù)制性能夠聚合開發(fā)者、高校、實驗室等多方資源，在促進學(xué)術(shù)研究的發(fā)展和技術(shù)普及的同時，加大模型的能力來自于技術(shù)工藝的變化大模型的能力來自于技術(shù)工藝的變化基礎(chǔ)模型（FoundationModel）是區(qū)別生成式人工智能技術(shù)棧和之前人工智能的關(guān)鍵?；A(chǔ)模型是斯坦福大學(xué)基礎(chǔ)模型研究中心創(chuàng)造的術(shù)語，它是一個在廣泛數(shù)據(jù)集上預(yù)先訓(xùn)練的機器學(xué)習(xí)模型，可以用于解決一系列問題?；A(chǔ)模型通常經(jīng)過以下四個階段的開發(fā)，如下所示。基礎(chǔ)模型的開發(fā)架構(gòu)模型的結(jié)構(gòu)和設(shè)計，預(yù)訓(xùn)練好的參數(shù)。微調(diào)調(diào)整參數(shù)以提高生產(chǎn)部署到可以通過來訪問模型的生產(chǎn)環(huán)境中。架構(gòu)模型的結(jié)構(gòu)和設(shè)計，預(yù)訓(xùn)練好的參數(shù)。微調(diào)調(diào)整參數(shù)以提高生產(chǎn)部署到可以通過來訪問模型的生產(chǎn)環(huán)境中。模型參數(shù)模型參數(shù)訓(xùn)練數(shù)據(jù)精選數(shù)據(jù)集過程要素：訓(xùn)練數(shù)據(jù)精選數(shù)據(jù)集過程要素： 理 輸出輸入√的確，生成式人工智能可以徹底改變企業(yè)與客戶之間的運作和互動方式，甚至可能重新定義我們對“員工”的認(rèn)知。在某些消費者和企業(yè)領(lǐng)域，這種轉(zhuǎn)型已經(jīng)在進行中?！虂碓矗篋eloitte生成式人工智能的核心商業(yè)邏輯：效率，指導(dǎo)，創(chuàng)作，娛樂生成式人工智能的核心商業(yè)邏輯：效率，指導(dǎo)，創(chuàng)作，娛樂√在2022年，OpenAI的DALL·E2因其文本生成圖像的能力而引起了全世界的關(guān)注。這個模型可以根據(jù)簡單的文字兩只獅子打籃球?！薄谈邚?fù)雜度我們將消費者用例--即個人在其生活中的用例--根據(jù)所提供的實用性分為四個大類：高復(fù)雜度效率優(yōu)化計劃、研究和產(chǎn)品開發(fā)等任務(wù)指導(dǎo)提供個性化指導(dǎo)或?qū)W習(xí)內(nèi)容創(chuàng)作生成或增強內(nèi)容，復(fù)制創(chuàng)意過程娛樂建造游戲、虛擬人物和其他娛樂項目創(chuàng)建健康狀況和健康計劃與虛擬伙伴進行交流生成和編輯視頻文件創(chuàng)建原創(chuàng)游戲發(fā)現(xiàn)新產(chǎn)品創(chuàng)建個性化的財務(wù)計劃創(chuàng)建室內(nèi)設(shè)計模擬圖與流行文化人物進行聊天進行帶有引證的研究教授新語言策劃服裝和時尚理念渲染3D環(huán)境整理內(nèi)容綜合研究論文修改和編輯設(shè)計文件重新混音或采樣音樂回答一般問題指導(dǎo)和為個人寫作提供信息創(chuàng)作藝術(shù)和編輯圖像生成原創(chuàng)的虛構(gòu)短篇小說供應(yīng)商示例Synthesis.aiConsensusGrammarlyLingostar.aiLuminarAILensaJasperScenario低復(fù)雜度低復(fù)雜度來源：Deloitte生成式人工智能在消費者和企業(yè)領(lǐng)域的應(yīng)用案例生成式人工智能在消費者和企業(yè)領(lǐng)域的應(yīng)用案例在生成式人工智能的形成時期，最受歡迎的企業(yè)應(yīng)用案例，將是用于推動內(nèi)部或B2B產(chǎn)出的，通用的或適用于跨行業(yè)跨職能（“橫向”）的用例。然而，與之前出現(xiàn)的技術(shù)一樣，通常在特定行業(yè)的“垂直”應(yīng)用案例存在著更可持續(xù)的價值創(chuàng)造機會?！倘缃?，一些企業(yè)已經(jīng)從橫向應(yīng)用案例的投資中獲得了實際的回報?！滔M與零售生命科學(xué)與醫(yī)療銀行與金融服務(wù)消費與零售生命科學(xué)與醫(yī)療銀行與金融服務(wù)科技傳媒與電信工業(yè)制造政府與公共服務(wù)垂直個性化對話式零售體驗數(shù)字化治療AR/VR內(nèi)容生成欺詐模擬和模式檢測個性化AR/VR體驗生成原創(chuàng)游戲創(chuàng)作地質(zhì)學(xué)評估和石油勘探學(xué)術(shù)領(lǐng)域的全天候虛擬助理定制化產(chǎn)品設(shè)計和推薦預(yù)測性和虛擬患者分診稅務(wù)和合規(guī)審計與情景測試自動化產(chǎn)品和硬件設(shè)計預(yù)告片和簡介生成生成式模擬和安全測試基礎(chǔ)設(shè)施映射和規(guī)劃產(chǎn)品細節(jié)和攝影生成用于教育的人體解剖學(xué)三維圖像零售銀行交易支持個性化和自動化的UI/UX設(shè)計劇本/配樂設(shè)計和字幕生成三維環(huán)境渲染：油井、管道等災(zāi)難恢復(fù)模擬時尚服裝搭配策劃健康和福祉計劃的創(chuàng)建個性化虛擬財務(wù)顧問產(chǎn)品測試和反饋生成個性化新聞和內(nèi)容生成自動化技術(shù)設(shè)備培訓(xùn)欺詐、浪費和濫用預(yù)防報告?zhèn)€人藝術(shù)創(chuàng)作和編輯通過分子模擬進行藥物研發(fā)生成財務(wù)報告分析和洞察力軟件銷售、客戶體驗和留存支持原創(chuàng)虛擬短篇小說生成智能工廠生成自動化附有引文和解釋的研究橫向個性化對話式零售體驗自助式人力資源和信息技術(shù)功能端到端自動化客戶服務(wù)客戶反饋情感分類自動化代碼調(diào)試和問題解決虛擬助手對話生成企業(yè)搜索和知識管理3D環(huán)境渲染：元宇宙營銷/銷售內(nèi)容生成無障礙支持（文字轉(zhuǎn)語音和語音轉(zhuǎn)文字）自主代碼生成和補全跨平臺個性化定向廣告

文字 圖片 語音 視頻 三新興的模型新興的

代碼 其他成熟的成熟的 來源：Deloitte中國AI大模型主要廠商競爭力評價——廠商總覽中國AI大模型主要廠商競爭力評價——廠商總覽國外玩家Open國外玩家GPT-4于2023年3月14日發(fā)布，是千億級參數(shù)的多模態(tài)預(yù)訓(xùn)練模型，能夠支持圖像和文本的輸入

ClaudeClaude于2023年3月14日發(fā)布，是Anthropic開發(fā)的類似ChatGPT的聊天機器人，使用的是constitutionalAI的偏好模型

Google：PaLM-EaLM-E于2023310多模態(tài)視覺語言模型（VLM），具有5620億個參數(shù)，集成了可控制機器人的視覺和語言能力

Naver：與三星電子合作，于20215月發(fā)布，超過2000模模型；97%使用的是23H1基于大模型推出Search

Kakao：KoGPT于2021年發(fā)布，專注于開發(fā)基于AI的圖像創(chuàng)建技術(shù)和醫(yī)療保健技術(shù)

LG：Exaone202212擁有3000億參數(shù)，使用圖像和文本數(shù)據(jù)的多模態(tài)模型，是目前韓國參數(shù)規(guī)模最大的模型,用于生物醫(yī)藥和智能制造行業(yè)

Meta：SAM、LLaMASAM：于20234通過精細標(biāo)注，識別分割畫面上的指定物體。大型語言LLaMA：于202324種參數(shù)規(guī)?；ヂ?lián)網(wǎng)公司 科技公司 創(chuàng)業(yè)公司 實驗室互聯(lián)網(wǎng)公司科技公司創(chuàng)業(yè)公司實驗室阿里巴巴：通義大模型本土玩家最新進展：于2023年4月正式推出通義千問大模型本土玩家華為：盤古大模型于2021年4月正式對外發(fā)布盤古預(yù)訓(xùn)練大模型騰訊：混元大模型于2022年4月首次對外披露混元AI大模型研發(fā)進展百度：文心大模型最新進展：于2023年3月正式發(fā)布文心一言大模型快手：K7大模型百億級多模態(tài)內(nèi)容理解大模型Pluto，高效視頻相似度計算

商湯：日日新SenseNova大模型體系提供自然語言、內(nèi)容生成、自動化數(shù)據(jù)標(biāo)注、自定義模型訓(xùn)練等大模型及能力，及一系列生成式AI應(yīng)用昆侖萬維：昆侖天工大模型2023417科大訊飛：1+N認(rèn)知智能大模型將于2023年5月6日正式發(fā)布浪潮信息：源1.0大模型于2021年9月28日發(fā)布，具有2457億參數(shù)，是中文語料AI模型

王慧文創(chuàng)立光年之外前商湯員工創(chuàng)立MiniMax楊植麟創(chuàng)立循環(huán)智能周伯文創(chuàng)立銜遠科技唐杰創(chuàng)立智譜AI，現(xiàn)為CTO高校藍振忠創(chuàng)立西湖心辰高校硬件公司創(chuàng)業(yè)黑馬子公司數(shù)智云科與達摩院簽訂戰(zhàn)略合作協(xié)議，致力于打造對標(biāo)ChatGPT中國本土化大模型硬件公司瀾起科技：孟子大模型于2023年3月14日正式發(fā)布了“類ChatGPT”的語言生成模型