2024人工智能大模型技術應用及展望

人工智能大模型技術應用及展望2024主要內容主要內容一、“大模型、多模態(tài)”（chatGPT）基礎二、大模型的技術發(fā)展三、大模型的應用展望四、幾點思考一、“大模型、多模態(tài)”（chatGPT）基礎大模型=大參數(shù)？深度學習的神經(jīng)網(wǎng)絡“參數(shù)”擴展多模態(tài)=多數(shù)據(jù)源？文本、圖像、視頻等等人類的學習過程：聲音、圖像、記憶自然語言處理（NLP）成為突破口，生產式AI（AIGC)開啟突破從GPT（GenerativePre-Training，生產式預訓練）到chatGPT開啟人與計算機之間的編程語言翻譯轉換AI的藝術創(chuàng)作：琴棋書畫從圖靈測試到專家測試GPT-4:SAT考710；美國律師考試前10%；職業(yè)詩人、畫家等人類腦細胞的數(shù)量：140-150億以從事創(chuàng)造性工作?，F(xiàn)在看來，它將以相反的順序進行。”——OpenAI公司首席執(zhí)行官薩姆·奧特曼（SamAltman）類比移動互聯(lián)網(wǎng)、iPhone？參數(shù)的參數(shù)的“量變”產生“質變”Google力”（EmergentAbilitiesLargeLanguageModels，2022年8月）的論文考察了以GPT-3涌現(xiàn)（奇點？）：“來的?！蔽闹锌偨Y了GPT-3137BIG-Bench，其具有的涌現(xiàn)能力也包括67項【思考】客戶離網(wǎng)分析的參數(shù)能到多少？

圖3.模型大小和各項任務準確性之間的折線圖圖5.在生成及多選這兩類問題上，需要運用的規(guī)則越多，GPT-3的表現(xiàn)就越優(yōu)于人類ChatGPTChatGPT的魅力OpenAI在2022年11月30日發(fā)布了ChatGPT，ChatGPT等任務2023年一月末，ChatGPT的月活用戶已突破1快的消費者應用截止2023年1月，美國89ChatGPT做作業(yè)18個月翻一番?！薄窩hatGPT之父」SamAltman【思考】chatGPTAI會將部分種類的勞動力成（客等）至零？人還有利嗎？ AI陪伴的數(shù)字人生——Replika哪個重要？哪個重要？——參數(shù)、算法、數(shù)據(jù)、算力、場景、人才谷歌為何“馬失前蹄”？從Bert的“上下文”到GPT的“上文”PalM訓練參數(shù)5400億算法：Transformer+RLHF數(shù)據(jù)(量)ChatGPT45TB算力微軟Azure與谷歌云計算場景NLP切入Bing、edge等，會替代搜索引擎嗎？人才OpenAI2015年成立之初，吸引頂尖人才【思考】NLP在哪里？（）應用？生成式生成式AI會改變哪些行業(yè)和職業(yè)？從助手到“雀占鳩巢”？文字生成領域——文案設計等行政類文書樣板《粵港澳大灣區(qū)2035區(qū)域現(xiàn)代化戰(zhàn)略規(guī)劃》藝術創(chuàng)作領域詩詞歌賦、繪畫、音樂、小說等領域的創(chuàng)作替代教育領域從死記硬背到AI工具使用，思維創(chuàng)新訓練等等法律領域法律條文查詢及解釋等計算機編程領域Copilot：Github和OpenAI合作研發(fā)的AI編程工具，基于數(shù)十億行開源代碼進行訓練，能夠按照不同的程度、不同的功能要求，輔助人類完成編程任務AI從信息透明到智力透明？A產品的產品設計、潛在客戶、精準營銷、物流配送、售后服務等產業(yè)鏈重新組合，重新洗牌。生成式生成式AI會改變哪些行業(yè)和職業(yè)？-2調查了1000ChatGPTChatGPT，ChatGPTChatGPT66%用于寫代碼，58%57，ChatGPT77%66，65%回應求職書ChatGPT的表現(xiàn)印象深刻，55%，34%ChatGPT48%50,000，11%100,000美元93%ChatGPT【思考】李開復指出，“AI2.0生新一代AI2.0AI2.0將是提升21chatGPTchatGPT對戰(zhàn)爭的影響美軍認為，人工智能將改變21世紀的戰(zhàn)爭形態(tài)一是參與認知作戰(zhàn)，引導輿論走向ChatGPTChatGPT（），二是輔助軍事決策，提升作戰(zhàn)效率軍隊一旦裝備ChatGPT三是自主編寫程序代碼，實施網(wǎng)絡攻防戰(zhàn)ChatGPTChatGPTChatGPT【思考】商場如戰(zhàn)場，AI如何助力商戰(zhàn)？——輿情、決策、攻防、民主體系二、大模型的技術發(fā)展二、大模型的技術發(fā)展自然語言處理NLPRNNtransformer生成式AI領域：擴散（Diffusion）模型CLIP（ContrastiveLanguage-Image【思考】不同算法決定通用大模型？GPT-4模型2022年8月完成訓練，OPENAI了六個月讓其更安全【思考】不同算法決定通用大模型？多模態(tài)大模型平臺架構ChatGPT作為大模型的一種，已經(jīng)展現(xiàn)出驚人的效果，構建以大模型為主導多模態(tài)技術體系成為未來技術發(fā)展的方向。大模型基于硬件資源池和軟件框架，通過對海量多模態(tài)數(shù)據(jù)進行訓練，從而提供成熟AI能力和多模態(tài)能力多模態(tài)大模型工程階段1.數(shù)據(jù)采集 2.人工智能 3.場景集成模型訓練 （人工能推）數(shù)據(jù)采集 模型加速算法 文字生成數(shù)據(jù)匯聚 圖像識別模型 數(shù)據(jù)標注 語義處理模型 智能對話數(shù)據(jù)安全 強化學習 跨模態(tài)生成數(shù)據(jù)存儲 多模態(tài)模型 ………..集中+共享集中+共享 集中+共享 +部分場景邊緣部署（成本+實時性）多模態(tài)大模型技術架構分析師模式 開發(fā)者模式調用平臺成熟力 平臺開源算法自算訓練APP Web API SDKAI能力開放MaaS 醫(yī)療 傳媒 金融 … 生物算法平臺 NLP大模型 CV大模型 語音大模型 跨模態(tài)大模型工具與平臺 數(shù)據(jù)標注清洗 大模型壓縮 大模型精調 高性能部署 場景工具硬件資源 存儲資源 計算資源：GPUCPU 大規(guī)模集群調度 網(wǎng)絡資源結構化數(shù)據(jù) 文本 音頻 視頻 圖片chatGPT對InstructGPT的改進chatGPT對InstructGPT的改進“TellmeaboutwhenChristopherColumbuscametotheUSin2015”（告訴我克里斯托弗·哥倫布2015年來美國的時候）【ChatGPT】ThisquestionisabittrickybecauseChristopherColumbusdiedin1506,sohecouldnothavecometotheUSin2015.Butlet’spretendforamomentthathedid!（這個問題有點棘手，因為克里斯托弗·哥倫布死于1506年，所以他不可能在2015年來到美國。但讓我們假裝他做了！）IfColumbusarrivedintheUSin2015,hewouldlikelybeverysurprisedatthechangesthathaveoccurredsincehefirstlandedinthe“NewWorld”in1492.Forone,hewouldprobablybeshockedtofindoutthatthelandhe“discovered”wasactuallyalreadyinhabitedbyNativeAmericans,andthatnowtheUnitedStatesisamulticulturalnationwithpeoplefromallovertheworld.Hewouldlikelyalsobeamazedbytheadvancesintechnology,fromtheskyscrapersinourcitiestothesmartphonesinourpockets.Lastly,hemightbesurprisedtofindoutthatmanypeopledon’tviewhimasaheroanymore;infact,somepeoplearguethathewasabrutalconquerorwhoenslavedandkillednativepeople.Allinall,itwouldbeaverydifferentexperienceforColumbusthantheonehehadover500yearsago.（2015年抵達美國，他可能會對1492年首次登陸“新世界”以來發(fā)生的變化感到非常驚訝。首先，他可能會震驚地發(fā)現(xiàn)，他“發(fā)現(xiàn)”的土地實際上已經(jīng)有美洲原住民居住，而現(xiàn)在美國是一個多文化國家，有來自世界各地的人。他可能也會對科技的進步感到驚訝，從我們城市的摩天大樓到口袋里的智能手機。最后，他可能會驚500多年前截然不同的經(jīng)歷。）【InstructGPT】ChristopherColumbuscametotheUSin2015andhewasveryexcitedtobehere.HehadalwayswantedtovisittheUSandhewasverycuriousaboutourcountryHewasveryimpressedwithourcountryandheenjoyedhistimehere.（克里斯托弗·哥倫布于2015年來到美國，他很高興來到這里。他一直想訪問美國，他對我們的國家非常好奇。他對我們的國家印象深刻，他很享受在這里的時光。）ChatGPTChatGPT的RLHF(ReinforcementLearningfromHumanFeedback)數(shù)據(jù)處理的過程更重要？人類參與反饋修正從數(shù)據(jù)標注到數(shù)據(jù)矯正從事前到事后避開“胡言亂語”避開種族、政治錯誤等中文的隔離效應中國人力資本的優(yōu)勢如何避免各種“傾向性”？繁體、簡體、英文的TW問題價值觀的引導【思考】企業(yè)模型的行業(yè)化、個性化RLHF過程？大模型的算力大模型的算力“緊箍咒”上為OpenAI搭建了獨立的超級計算機系統(tǒng)，包含28.5萬個CPU核和1萬張GPU卡（當時為V100）英偉達2021年4月，使用1024張顯存的A100卡訓練1750億參數(shù)的GPT-3練34天英偉達A100/H100芯片的中國“斷供”算力網(wǎng)絡的架構突圍絡資源的新型信息基礎設施”ChatGPTChatGPT的“復現(xiàn)”失敗問題GPT-3GPT-3https://jingfengyang.github.io/gpt所有的公開模型（例如：OPT-175BBLOOM-176B）都在一定程度上“失敗”了。一次訓100080GA100GPU2個月的時間（OPT的原始文獻）300Btoken60CommonCrawl，其它則來自：webtext2（的語料庫），Books1，Books2和維基百科PileBLOOMROOTS語料庫則有太多的已經(jīng)存在的學術數(shù)據(jù)集，缺乏CommonCrawl數(shù)據(jù)所包含的多樣性。這可能導致BLOOM性能更差。作為對比，GPT3CommonCrawl，ChatGPT的基礎模型的原因之一。/訓練設置、訓練過程中的修改。在訓練非常大的模型時，它們被用于獲得更好的穩(wěn)定性和收斂性175BZeRO式的數(shù)據(jù)并行（）（parallel），（sequenceparallel））OPTReLUPaLMSwiGLUBLOOMGeLU，它LLM的性能更好【思考】山寨chatGPT的難點還有哪些？應該在哪些任務上使用GPT-3.5或ChatGPT？應該在哪些任務上使用GPT-3.5或ChatGPT？由于在對話場景下的良好對齊，ChatGPT、InstructGPT、以及CodexChatGPT背后的模型作為在更多任務和使用場景下的通用模型1.代碼補修復）、文本摘要、翻譯、創(chuàng)造性寫作（例如寫故事、文章、郵件、報告，以及寫作的改進等）2.3.分布外（Out-of-distribution,OOD）泛化4.5.知識密集型任務三、大模型的應用展望三、大模型的應用展望傳統(tǒng)數(shù)據(jù)分析模型的優(yōu)化從機器學習升級深度學習逐個分析主題的優(yōu)化帶動新“藍海”從NLP改良客戶服務入手MAAS（模型即服務）成為可能如何構建通用大模型AIGC帶動元宇宙從2C向2B延伸【思考】周鴻祎：“ChatGPT是一種生產力強大的再造工具。任何行業(yè)的APP軟件、網(wǎng)站、應用如果再加持上GPT的能力都值得重塑一遍，不要把它當成一個媒體工具、搜索引擎、聊天機器人，這都有點把它看得太小兒科了從大模型技術角度驅動的應用從大模型技術角度驅動的應用大模型有廣泛的應用場景大模型作為智慧大腦，可以對各類場景提供通用化解決方案大模型有廣泛的應用場景大模型作為智慧大腦，可以對各類場景提供通用化解決方案需求、設計、生產、供應鏈、銷售、售后等環(huán)節(jié)的人工交互（UI）替代AIGC角度的引導文件編寫、文案設計、營銷廣告（海報）、操作視頻等？（類搜索引擎？——魔鏡）多模態(tài)融合客戶的多模態(tài)視圖（短視頻、直播）情感分析、性格分析等圍繞非結構化數(shù)據(jù)為主如何涵蓋結構化數(shù)據(jù)RLHF從業(yè)務角度驅動的應用從業(yè)務角度驅動的應用客戶分析客戶多模態(tài)標簽客戶AI助理客戶多模態(tài)體驗升級產品分析需求多模態(tài)收集產品輿情收集營銷支撐虛擬營業(yè)廳建設全模態(tài)精準營銷（道、產品、話術等）產品管理投訴的多模態(tài)監(jiān)控系統(tǒng)優(yōu)化故障的精準預警“自動駕駛”的運維把企業(yè)數(shù)據(jù)分析重塑一遍？只是重塑嗎？【例】大模型下客戶的數(shù)據(jù)分析“深度”大模型分析更精準、更透徹chatGPT打造類ChatGPT，賦能電信行業(yè)CHBN市場，加速各領域應用創(chuàng)新打造類ChatGPT，賦能CHBN市場打造類ChatGPT，賦能電信行業(yè)CHBN市場，加速各領域應用創(chuàng)新個人移動市場5G新通話實時多語種同聲傳譯，主動生成內容，提升通話感知效果個人移動市場5G新通話實時多語種同聲傳譯，主動生成內容，提升通話感知效果移動云盤會議決策大腦云端的專業(yè)圖書館AI秘書形象與性格定制，個性化AI秘書……家庭市場家庭康養(yǎng)全科家庭醫(yī)生永遠陪伴在身邊的親人朋友家庭教育不斷生成題庫的智能陪練能講解能答疑的全年級、全學科實時輔導虛擬管家智能家居環(huán)境調節(jié)管理……政企市場智慧金融全行業(yè)投資分析師、數(shù)據(jù)分析師智能個人投資顧問智慧城市公文助手信息檔案智能檢索智慧政務智能審核……新興市場音樂風格沒有限制、靈感永不枯竭的新媒體賽博影子寫手數(shù)字人多模態(tài)數(shù)字人……針對個人移動市場，ChatGPT促進5G新通話、客服、云盤等方向服務創(chuàng)新個人移動市場應用創(chuàng)新針對個人移動市場，ChatGPT促進5G新通話、客服、云盤等方向服務創(chuàng)新在5G新通話的視頻對話過程中，ChatGPT可不受語種限制，幫助將雙方對話內容實時轉寫并以字幕形式向通話雙方展示，并提供通話記錄功能在通話過程中，基于用戶輸入語音實時生成圖像、在5G新通話的視頻對話過程中，ChatGPT可不受語種限制，幫助將雙方對話內容實時轉寫并以字幕形式向通話雙方展示，并提供通話記錄功能在通話過程中，基于用戶輸入語音實時生成圖像、文字內容，提升通話應用效果多語種翻譯大師ZOOM已經(jīng)開始進行內部試用ChatGPT可與語音轉寫能力相結合，對會議對話文本自動總結核心要點+提煉任務目標，生成結構完整、目標清晰的會議總結與行動計劃，成為未來會議的智能大腦，幫助用戶決策、提高效率會議決策大腦通過ChatGPT全能客服有能力回答用戶的任何問題、舒緩用戶各種情緒、揣測用戶多樣心里訴求，并能向用戶推薦更符合其需求的各類產品全能客服文獻深層檢索整理展示：ChatGPT有強大的復雜檢索能力，可以通過云盤承載面向用戶進行付費文獻檢索服務（如：搜索“minute”用于形容“微小的”，而不是“分鐘”的十篇文章并形成列表和索引公文模板大全：可以利用ChatGPT強大的編輯能力形成各類公文、論文、專業(yè)文檔的規(guī)范模板，并向用戶批量收費云端專業(yè)圖書館元宇宙場景類ChatGPT模型應用元宇宙與生成式模型相輔相成技術互相促進，元宇宙能夠實現(xiàn)線上化服務入口的行業(yè)，在元宇宙中進行場景融合，chatGPT能助力元宇宙場景生成與智能交互?！膶戨娚虪I銷模式！利用ChatGPT在元宇宙中創(chuàng)建虛擬客服和售后支持，讓用戶可以在元宇宙中咨詢問題、提出意見和建議，并且通過ChatGPT進行智能回答和服務。虛擬客服和售后支持利用元宇宙在虛擬空間中創(chuàng)建虛擬產品展示和銷售，通過ChatGPT進行自然語言交互，向用戶展示產品特點和優(yōu)勢，提供