傅盛2024開年AI大課 -AI大潮下如何創(chuàng)新 從技術(shù)狂歡到商業(yè)落地 私有化大模型是王道

GPT引領(lǐng)AI浪潮GPT引領(lǐng)AI浪潮技術(shù)的底層范式發(fā)生重大變化牛頓開辟光學(xué)，創(chuàng)立微積分推導(dǎo)出引力公式底層范式正在改變，智能和技術(shù)“涌現(xiàn)”，新的創(chuàng)新機(jī)遇開啟愛因斯坦發(fā)表狹義相對(duì)論、質(zhì)能方程等四篇論文AI將帶來整個(gè)社會(huì)的底層重構(gòu)如何抓住這次創(chuàng)新大潮？讓我們從上一次科技大潮的小故事開始20年前一個(gè)年輕人懷揣400元來到北京過著很卷的北漂生活盡管有幸加入互聯(lián)網(wǎng)大潮，每天起早貪黑30歲前三個(gè)愿望一個(gè)都沒有實(shí)現(xiàn)同質(zhì)化的勤奮只會(huì)更卷不同的道路才可能勝出以更少的投入換取更大的產(chǎn)出猛然一刻意識(shí)到它是創(chuàng)新的底層思維模式卷的思維模式是ThinkBetter創(chuàng)新的思維模式是ThinkDifferent與其更好不如不同Part1ThinkDifferent創(chuàng)新的不二法門為什么偉大不能被計(jì)劃？只有ThinkDifferent找到新的道路才能實(shí)現(xiàn)偉大但新的道路不在大多數(shù)人的認(rèn)知地圖中獵豹移動(dòng)ThinkDifferent，Alli獵戶星空ThinkDifferent，AllinAIAI起步早取得了一些技術(shù)優(yōu)勢(shì)北京冬奧服務(wù)型機(jī)器人創(chuàng)新測(cè)評(píng)大賽五項(xiàng)產(chǎn)品入選，獨(dú)占半壁AI1.0時(shí)代深度學(xué)習(xí)成為熱潮獵戶星空搶先出擊全行業(yè)一起卷卻難破瓶頸一個(gè)小小的分支正在成長(zhǎng)獵戶NLPV2.0獵戶語(yǔ)音識(shí)別v2.0ChatGPT橫空出世，震驚世界AI進(jìn)入2.0時(shí)代，徹底開啟生產(chǎn)力革命獵戶NLP獵戶NLPV2.0獵戶語(yǔ)音識(shí)別v2.0AI2.0時(shí)代曾最被人看不起的ChatGPT分支成為主流OpenAIOpenAIUniverseOpenAI在同樣的技術(shù)路線下也卷不過巨頭也就是后來的ChatGPT學(xué)母語(yǔ)模式建立基本的邏輯認(rèn)知學(xué)母語(yǔ)模式建立基本的邏輯認(rèn)知產(chǎn)生邏輯能力和推理能力學(xué)外語(yǔ)模式學(xué)外語(yǔ)模式OpenAI,與其說是技術(shù)積累的成功不如說是技術(shù)信仰的成功更是ThinkDifferent的成功ChatGPT的橫空出世更像是哥倫布航?；仡櫥ヂ?lián)網(wǎng)創(chuàng)業(yè)大潮再看這次AI技術(shù)浪潮ThinkDifferent是創(chuàng)新的不二法門都是ThinkDifferent的成果Part2AI大模型創(chuàng)新依然可以ThinkDifferentChatGPT是一次底層范式正在改變每個(gè)業(yè)務(wù)用大模型重做一遍都能獲得十倍增長(zhǎng)2023年市值超越蘋果“設(shè)計(jì)外包公司”“視頻翻譯公司”成為全球市值40名員工30名員工4名員工最高公司年收入超2億美金估值100億美金收入超過1800萬美金估值7500萬美金融資5500萬美金估值超2億美金面對(duì)這一次的AI大潮萬變不離其宗找到適合自己的道路20232023我們也曾很焦慮：2023年3月，國(guó)內(nèi)千億大模型創(chuàng)業(yè)如火如荼，團(tuán)隊(duì)躁動(dòng)不安“老板，再不動(dòng)手訓(xùn)大模型就落伍了對(duì)于AllinAI七年的獵戶星空訓(xùn)練千億大模型本質(zhì)上是資本的投入只有做千億大模型才是唯一路徑嗎？大力發(fā)展Copilot應(yīng)用的微軟成為最大贏家WindowsCopilotOfficeCopilot不是只有跟隨OpenAI才能成功20234月大模型創(chuàng)新的兩種模式訓(xùn)練千億級(jí)模型垂直模型尋找應(yīng)用場(chǎng)景挖掘應(yīng)用場(chǎng)景垂直模型打造最適合模型20232023內(nèi)部生長(zhǎng)出AI應(yīng)用對(duì)外提供咨詢服務(wù)4月3月CFO助理寫出的小工具自設(shè)計(jì)線上服務(wù)機(jī)器人自寫小工具自建應(yīng)用開發(fā)交流平臺(tái)垂直技術(shù)領(lǐng)域，AI可能帶來生產(chǎn)力的躍遷應(yīng)用組件模型組件月320236月4月月320236月4月朱嘯虎：大模型對(duì)創(chuàng)業(yè)者很不友好?傅盛：做好應(yīng)用，依然是創(chuàng)業(yè)者最好的機(jī)會(huì)！紙上得來終覺淺絕知此事要躬行2023年5月客戶問:能否幫我私有化部署大模型A100x8服務(wù)器每臺(tái)價(jià)格約160萬，只能滿足很小的并發(fā)請(qǐng)求恰逢其時(shí)LLaMA來了開源社區(qū)使得千億參數(shù)大模型性能護(hù)城河消失小參數(shù)模型能力迅速提升忽然一夜開源來千模萬模智能開AI大模型進(jìn)入二元對(duì)立時(shí)代更小資源更專業(yè)性能更小資源更專業(yè)性能更靈活配置更全面性能更大的算力數(shù)據(jù)&應(yīng)用≈百億參數(shù)基座千億參數(shù)數(shù)據(jù)&應(yīng)用≈百億參數(shù)基座大模型數(shù)據(jù)圖表I文案打磨I創(chuàng)意腦暴I合同審核客戶案例，通過百億參數(shù)+應(yīng)用打磨專業(yè)回答問題超越GPT-4%回答準(zhǔn)確率60%回答準(zhǔn)確率Part3每個(gè)企業(yè)都有私有化大模型的時(shí)代到來了三個(gè)時(shí)代企業(yè)核心價(jià)值的變化互聯(lián)網(wǎng)和信息化經(jīng)營(yíng)數(shù)據(jù)和數(shù)智化AIGC到底是什么？CICIC2C2C3私有數(shù)據(jù)企業(yè)經(jīng)營(yíng)數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營(yíng)數(shù)據(jù)數(shù)字員工和輔助決策才是真正的AI提效公有數(shù)據(jù)公有數(shù)據(jù)專崗私有數(shù)據(jù)企業(yè)經(jīng)營(yíng)數(shù)據(jù)ChatGPT只從公開出版物上獲取數(shù)據(jù)互聯(lián)網(wǎng)公開大數(shù)據(jù)互聯(lián)網(wǎng)公開大數(shù)據(jù)GPTStoreGPTStore推出GPTStore調(diào)侃的說：給ChatGPT短期內(nèi)可以提高效率都可能在幫你的競(jìng)爭(zhēng)對(duì)手成長(zhǎng)甚至ChatGPT成了你的競(jìng)爭(zhēng)對(duì)手山姆·奧特曼只給了我500美金OpenAI代金券卻毀掉了我300萬美金的初創(chuàng)公司為了讓企業(yè)有持久競(jìng)爭(zhēng)力應(yīng)該使用私有化大模型讓經(jīng)營(yíng)數(shù)據(jù)內(nèi)循環(huán)生長(zhǎng)企業(yè)實(shí)現(xiàn)應(yīng)用AI的王者段位Part4獵戶星空大模型為企業(yè)應(yīng)用而生我們更關(guān)心百億模型我們更關(guān)心百億模型用的好不好刷分高不高是時(shí)候打造我們的百億參數(shù)模型了訓(xùn)練千億級(jí)模型挖掘應(yīng)用場(chǎng)景垂直模型垂直模型尋找應(yīng)用場(chǎng)景打造最適合模型七年磨一劍場(chǎng)景認(rèn)知數(shù)據(jù)積累頂級(jí)團(tuán)隊(duì)場(chǎng)景認(rèn)知數(shù)據(jù)積累頂級(jí)團(tuán)隊(duì)算法理解應(yīng)用打磨七大應(yīng)用微調(diào)方向七大應(yīng)用微調(diào)方向千元顯卡即可運(yùn)行獵戶星空大模型千億效果用得好用得起用得安心為什么有些大模型在榜單上靠前，用起來一般般?對(duì)大模型來說，C-EVALHellaSwag（沒有刷過題）所以遇到?jīng)]有見過的新問題時(shí)，它的水平是一致的行業(yè)領(lǐng)先的百億參數(shù)大模型基座能力模型CMMLU學(xué)科MMLU學(xué)科C-EVAL知識(shí)AGIEval知識(shí)Lambada理解RACE理解HellaSwag推理BBH推理Orion-14B70.670.072.854.778.878.556.5LLaMA2-13B38.455.030.976.558.945.6Skywork-13B62.759.143.684.148.3Baichuan2-13B59.559.070.849.0QWEN-14B70.267.990.380.253.7InternLM-20B59.062.158.844.683.378.152.5基于第三方機(jī)構(gòu)OpenCompass獨(dú)立評(píng)測(cè)結(jié)果700億參數(shù)以下基座模型中文第一一次讀入一本小說在三十萬文字中任意位置隨機(jī)隱藏關(guān)鍵信息，對(duì)模型進(jìn)行提問，推理速度提升30%推理速度提升30%(GB)(tokens/s)C-EvalRACEHellaSwagOrionStar-14B28.072.870.670.093.378.5OrionStar-14B-INT48.369.869.293.178.0獵戶星空大模型小企業(yè)專用版為滿足小企業(yè)需求推出量化后智能水平幾乎無損的版本為滿足小企業(yè)需求推出量化后智能水平幾乎無損的版本多語(yǔ)言能力多語(yǔ)言能力日語(yǔ)、韓語(yǔ)評(píng)測(cè)百億模型全球第一69.179.567.666.5Baichuan2-13B58.750.865.864.565.446.363.755.3Yi-34B58.768.8-70.7--KOGPT-6B-70.1--StableLM-7B---52.3---Weblab-10B50.7---ELYZA-7B48.8---日文為JNLI等8項(xiàng)評(píng)測(cè)集平均得分；韓文為COPA等4項(xiàng)評(píng)測(cè)集平均得分；中文英文為OpenCompass對(duì)應(yīng)語(yǔ)言評(píng)測(cè)集平均得分即便在評(píng)測(cè)成績(jī)上超越了某些更大參數(shù)的模型但坦率地說，跟GPT-4的全面性還是有差距企業(yè)應(yīng)用場(chǎng)景可超越GPT-4獵戶星空大模型下一個(gè)用得好用得好為了企業(yè)更好應(yīng)用獨(dú)家推出微調(diào)全家桶獵戶星空大模型獵戶星空大模型同頭部客戶一起同頭部客戶一起-用檢索的方法配合大模型進(jìn)行任務(wù)處理，可以很好的使用企業(yè)數(shù)據(jù)進(jìn)行知識(shí)問答知識(shí)片段：1、新浪科技：周鴻祎解釋為啥喜歡穿紅衣服：提醒別人叫對(duì)2、騰訊云：...會(huì)上主持人調(diào)侃360集團(tuán)創(chuàng)始人、董事長(zhǎng)新浪科技：周鴻祎解釋為啥喜歡穿紅衣服：提醒別人叫對(duì)名字...騰訊云：...會(huì)上主持人調(diào)侃360集團(tuán)創(chuàng)始人、董事長(zhǎng)周鴻祎喜RAG開源框架很多,可現(xiàn)實(shí)很骨感一周出Demo半年用不好VectorVectorDatabaseLLMAPI休閑跑步(普通普通RAG套件)休閑跑步(普通普通RAG套件)獵戶星空大模型RAG套件Q2EQ2EQ2Q2CoT獵戶星空傳統(tǒng)NLP技術(shù)插件獵戶星空傳統(tǒng)NLP技術(shù)插件CPTCPT場(chǎng)景化場(chǎng)景化SFT獵戶星空大模型基座獵戶星空大模型基座課程解析回答正確率課程解析94.5%課程解析課程解析回答正確率課程解析回答正確率52.88%胡編亂造讓大模型像人一樣工作自主完成任務(wù)。拆解任務(wù)目標(biāo)·制定任務(wù)規(guī)劃·使用外部工具查詢知識(shí)庫(kù)I調(diào)用記憶I與企業(yè)系統(tǒng)打通做應(yīng)用所需的獵戶星空大模型均接近GPT-4水平100%90.3%91.07%100%90.3%91.07%%%意圖識(shí)別成功率首輪抽參成功率多輪抽參成功率缺槽反問成功率插件調(diào)用成功率一般的百億參數(shù)大模型表現(xiàn)不超過70%獵戶星空大模型RAG和Agent套件企業(yè)數(shù)字員工應(yīng)用最牛套件企業(yè)經(jīng)營(yíng)數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營(yíng)數(shù)據(jù)私有數(shù)據(jù)公有數(shù)據(jù)公有數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營(yíng)數(shù)據(jù)大模型服務(wù)器可放置于企業(yè)內(nèi)網(wǎng)所有數(shù)據(jù)不連公網(wǎng)I免費(fèi)I開源I可商用I社區(qū)技術(shù)支持獵戶星空百億參數(shù)大模型企業(yè)標(biāo)配首選私有數(shù)據(jù)企業(yè)經(jīng)營(yíng)數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營(yíng)數(shù)據(jù)用好企業(yè)定制應(yīng)用才是王者段位公有數(shù)據(jù)公有數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營(yíng)數(shù)據(jù)讓老板對(duì)經(jīng)營(yíng)細(xì)節(jié)全掌握人力資產(chǎn)人力資產(chǎn)、云資產(chǎn)、數(shù)字資產(chǎn)，全天候細(xì)節(jié)無遺漏更多老板助手定制云資產(chǎn)助手創(chuàng)意助手人力助手獵戶星空大模型1定制服務(wù)為你的企業(yè)插上AI翅膀2LLM戰(zhàn)略建設(shè)4實(shí)施與測(cè)試6交付與培訓(xùn) 小公司深度不足大廠不愿做保姆“最后一個(gè)知道公司要倒閉的人?！吧蠈雍軣幔袑訙嘏?，底層很冷。你聽得到一線的呼聲嗎？讓一個(gè)老板可以看2000名員工的周報(bào)幫助公司發(fā)掘真正的核心員工傅盛三問老板（二）你知道公司云成本花到哪里了嗎？云資產(chǎn)助手傅盛三問老板（三）你是否為新營(yíng)銷策略決策而苦惱？創(chuàng)意助手多AI智能體智囊團(tuán)，讓各領(lǐng)域?qū)＜覟槟?024年預(yù)測(cè)1千億大模型過半凋零，私有化百億大模型百花盛開2超越OpenAI的機(jī)會(huì)來自大模型應(yīng)用公司3具身智能很火，但人形機(jī)器人必定不能量產(chǎn)亮點(diǎn)回顧ThinkDifferent規(guī)律不斷應(yīng)驗(yàn)企業(yè)經(jīng)營(yíng)數(shù)據(jù)私有數(shù)據(jù)企業(yè)經(jīng)營(yíng)數(shù)據(jù)私有