計算機(jī)行業(yè)開啟AI新篇章：AIGC行業(yè)綜述篇

6核心分析框架7資料來源：

36氪，Companyhistory，digitaltrends，IDG

news

service，likecs，payititi，TechCPR，the

verge，VRcompare，界面新聞，甲子光年，開源資訊，國海證券研究所核心分析框架：每一輪人機(jī)交互的變革都會帶來產(chǎn)業(yè)級投資機(jī)會產(chǎn)業(yè)機(jī)會變革節(jié)點人機(jī)交互模式PC操作系統(tǒng)Macintosh、Windows瀏覽器IE瀏覽器、網(wǎng)景瀏覽器等搜索引擎Yahoo、Google等智能手機(jī)Iphone等人機(jī)共生人形機(jī)器人、AIGC等ARVROculus

Quest、HTCVive、Hololens等1984年蘋果推出劃時代的Macintosh計算機(jī)，不僅首次采用圖形界面的操作系統(tǒng)，并第一次使個人計算機(jī)具有了多媒體處理能力；1985年微軟推出Windows系統(tǒng)1993年NCSA中Mosaic項目的負(fù)責(zé)人辭職并建立了網(wǎng)景通訊公司，推出網(wǎng)景瀏覽器；1995年微軟推出IE1.0瀏覽器，作為Windows

95的默認(rèn)瀏覽器，改變了用戶網(wǎng)上沖浪方式1995年Yahoo公司正式成立，2002年收購Inktomi并將其網(wǎng)頁搜索技術(shù)融入雅虎官網(wǎng)；1998年Google成立，后NetScape放棄Excite，開始使用Google的搜索數(shù)據(jù)，具備里程碑意義2007年蘋果發(fā)布自PC以來最具變革性的產(chǎn)品——iphone

2G，大部分操作都將由用戶觸控屏幕實現(xiàn)；iPhone

4在外觀、顯示、芯片均大幅改善，并提供六軸動作感應(yīng)2016年Facebook正式發(fā)售Oculus

rift消費(fèi)者版本，被稱為消費(fèi)級VR設(shè)備元年；2015年索尼推出PlayStationVR；2015年微軟發(fā)布混合現(xiàn)實的智能眼鏡Hololens2013年，波士頓動力發(fā)布初代Atlas；2022年，Tesla預(yù)計發(fā)布Optimus原型機(jī)；2022年11月Open

AI發(fā)布人工智能技術(shù)驅(qū)動的自然語言處理工具ChatGPT鼠標(biāo)+鍵盤，可點擊，但交互模式單一且不智能，人較為被動鼠標(biāo)+鍵盤，瀏覽器聚合功能改善交互成本鼠標(biāo)+鍵盤，搜索引擎的檢索功能以人為中心，降低精準(zhǔn)信息獲取門檻觸屏+鍵盤，人機(jī)交互更加直觀便捷，人處于主動地位手勢追蹤、Inside-out、Outside-in、眼球追蹤等，交互方式多元化，沉浸感強(qiáng)人機(jī)共生，文字、音頻、視頻、3D、策略等交互模式融合，智能化程度顯著提升操作系統(tǒng)、早期郵箱、早期超級計算中心等光纜/運(yùn)營商、瀏覽器、門戶網(wǎng)站、通訊軟件等搜索引擎、眾多PC互聯(lián)網(wǎng)網(wǎng)頁應(yīng)用等手機(jī)硬件產(chǎn)業(yè)鏈、應(yīng)用商店、各大手機(jī)APP應(yīng)用等VRAR硬件產(chǎn)業(yè)鏈、云計算/邊緣計算、視頻&直播&游戲應(yīng)用等機(jī)器人硬件產(chǎn)業(yè)鏈、AI產(chǎn)業(yè)鏈（模型算力數(shù)據(jù)等）、下游應(yīng)用等8核心分析框架：

期待算力、數(shù)據(jù)、算法的突破，邁向強(qiáng)人工智能AGI階段資料來源：智東西，國海證券研究所規(guī)則導(dǎo)向1950s-1980s感知機(jī)、專家系統(tǒng)機(jī)器學(xué)習(xí)1980s-21世紀(jì)初期支持向量機(jī)、神經(jīng)網(wǎng)絡(luò)、決策樹深度學(xué)習(xí)21世紀(jì)初期至今多層神經(jīng)網(wǎng)絡(luò)模型理論發(fā)展硬件奠基，算法發(fā)展核心硬件發(fā)展，算法突破自主學(xué)習(xí)未來發(fā)展方向基于大規(guī)模數(shù)據(jù)識別、預(yù)測、學(xué)習(xí)、決策算力、數(shù)據(jù)、算法全面突破決策式AI生成式AI始于1950s，讓計算機(jī)感知和理解現(xiàn)實世界，興盛于計算機(jī)硬件發(fā)展與大數(shù)據(jù)出現(xiàn)。分析式AI始于1960s，利用邏輯推理等方法進(jìn)行分析和解決；興盛于機(jī)器學(xué)習(xí)、數(shù)字挖掘技術(shù)興起。始于1970s，分析之后，進(jìn)行智能決策；近年來才開始真正興盛。始于1980s，起源于分析式AI，生成新的內(nèi)容；

2022年迎來突破。感知式AI文本識別、語音識別、圖像識別等。運(yùn)營營銷決策、金融風(fēng)險評估、醫(yī)療診斷等。自然語言生成、圖像生成、音樂生成等。生成式AI生成各種數(shù)據(jù)、圖像、語音等內(nèi)容后，決策式AI對生成內(nèi)容進(jìn)行分析和決策，實現(xiàn)更加全面和智能的應(yīng)用。弱人工智能階段ANI強(qiáng)人工智能階段AGI超人工智能階段ASI9核心分析框架：

AIGC與PGC、UGC內(nèi)容創(chuàng)作模式對比PGC UGCPGC UGCPGC UGC AIGC數(shù)量階段Web

1.0Web

2.0Web

3.0Web

1.0Web

2.0Web

3.0質(zhì)量總成本單位成本數(shù)量數(shù)量階段PGC UGC AIGC資料來源：《先利其器：元宇宙場景下的AIGC及其GLAM應(yīng)用機(jī)遇》王諾等，國海證券研究所用戶成為內(nèi)容創(chuàng)作的主角提升了互聯(lián)網(wǎng)的內(nèi)容生產(chǎn)規(guī)模內(nèi)容生產(chǎn)來源于專業(yè)組織或個人，內(nèi)容規(guī)模有限在算力與算法支撐下，AIGC內(nèi)容生成規(guī)模所受到的限制遠(yuǎn)低于PGC與UGC，AIGC可以在極短時間內(nèi)生成大量內(nèi)容PGC生產(chǎn)者的專業(yè)性保證了內(nèi)容質(zhì)量UGC

模式下內(nèi)容生產(chǎn)質(zhì)量良莠不齊AIGC隨著算法與模型不斷優(yōu)化，AIGC生成內(nèi)容的質(zhì)量將會逐漸超過UGC與

PGC內(nèi)容生成的單位成本內(nèi)容生成的總成本PGC UGC AIGC成本支出隨著內(nèi)容規(guī)模的增加而同比增長，但總成本增長速度PCG>UGC>AIGCPGC與UGC模式下單位內(nèi)容生產(chǎn)成本下降幅度有限AIGCAIGC

模式具有顯著的規(guī)模遞減優(yōu)勢，其成本支出主要在于模型算法開發(fā)與硬件等固定成本領(lǐng)域，所以在元宇宙場景下，AIGC

生成內(nèi)容規(guī)模越大，其單位內(nèi)容生成的邊際成本將會逐漸下降且無限逼近于零傳統(tǒng)的

PGC

與

UGC

模式受到規(guī)模、質(zhì)量和成本的制約，而AIGC

則能夠有效地彌補(bǔ)

PGC

與

UGC

模式的不足，具有生成內(nèi)容規(guī)模大、質(zhì)量高、單位成本低的優(yōu)勢，將會成為元宇宙場景下的主要內(nèi)容生成模式，從而為元宇宙建設(shè)提供內(nèi)容支撐。內(nèi)容生成的數(shù)量 內(nèi)容生成的質(zhì)量PGCUGCAIGC10核心分析框架：機(jī)器學(xué)習(xí)分為訓(xùn)練和推理，數(shù)據(jù)決定上限，算法逼近上限資料來源：各框架官網(wǎng)，

EasyAI，GitHub，機(jī)器之心，國海證券研究所（注：GitHub

Star為截止2023.3.13主體框架star數(shù)據(jù)）從原始數(shù)據(jù)提取有代表性、可解釋的特征。機(jī)器學(xué)習(xí)可以分為訓(xùn)練和推理兩個階段，訓(xùn)練是指使用已知數(shù)據(jù)集訓(xùn)練機(jī)器學(xué)習(xí)模型；推理是指使用已訓(xùn)練好的模型對新的數(shù)據(jù)進(jìn)行預(yù)測、分類等任務(wù)。數(shù)據(jù)和特征決定了機(jī)器學(xué)習(xí)的上限，模型和算法逼近上限。無監(jiān)督學(xué)習(xí)監(jiān)督學(xué)習(xí)強(qiáng)化學(xué)習(xí)根據(jù)分類、回歸、聚類等各種問題有相應(yīng)評估指標(biāo)。自己寫代碼實現(xiàn)模型或使用現(xiàn)成的框架。特征工程 模型選擇 模型訓(xùn)練 模型評估 模型調(diào)優(yōu) 模型部署和應(yīng)用網(wǎng)格搜索、隨機(jī)搜索、貝葉斯優(yōu)化、梯度優(yōu)化、集成方法等選取最優(yōu)參數(shù)組合，提高模型性能。模型封裝后，導(dǎo)入生產(chǎn)環(huán)境進(jìn)行推理。API 邊緣 集成部署 部署 部署批處理 容器化部署 部署訓(xùn)練 收集數(shù)據(jù) 數(shù)據(jù)準(zhǔn)備包括數(shù)據(jù)收集、預(yù)處理、存儲；數(shù)據(jù)的質(zhì)量和梳理對算法效果至關(guān)重要；也是機(jī)器學(xué)習(xí)的瓶頸之一。推理

數(shù)據(jù)預(yù)處理

模型加載輸入轉(zhuǎn)換模型推理輸出轉(zhuǎn)換結(jié)果后處理結(jié)果展示深度學(xué)習(xí)框架開發(fā)者發(fā)布/開源時間GitHubStar功能特點受眾TensorFlowGoogle2015.11172k端到端開源機(jī)器學(xué)習(xí)平臺，擁有全面而靈活的生態(tài)系統(tǒng)，其中包含各種工具、庫和社區(qū)資源，包括自定義、分布式訓(xùn)練、圖像、文本、音頻、結(jié)構(gòu)化數(shù)據(jù)、生成式、模型理解、強(qiáng)化學(xué)習(xí)、tfEstimator等。TensorFlow是工業(yè)型框架，自成立以來一直是面向部署的應(yīng)用程序的首選框架，TensorFlow

Serving和TensorFlow

Lite可讓用戶輕松地在云、服務(wù)器、移動設(shè)備和

IoT

設(shè)備上進(jìn)行部署。谷歌、英特爾、ARM、GE醫(yī)療、PayPal、推特、聯(lián)想、中國移動、WPS等。PytorchMeta2016.963.6k基于Torch的Python開源機(jī)器學(xué)習(xí)庫，包括分類器模型、計算機(jī)視覺模型、自然語言處理模型（聊天機(jī)器人，文本生成）等。還提供了兩個高級功能：

1.具有強(qiáng)大的GPU加速的張量計算（如Numpy）

2.包含自動求導(dǎo)系統(tǒng)的深度神經(jīng)網(wǎng)絡(luò)

。不僅能夠?qū)崿F(xiàn)強(qiáng)大的GPU加速，同時還支持動態(tài)神經(jīng)網(wǎng)絡(luò)，這一點是現(xiàn)在很多主流框架如TensorFlow都不支持的；簡單易用可以實現(xiàn)快速驗證，因此科研人員更為偏愛，各大期刊發(fā)表論文約80%使用Pytorch。Meta、Amazon、Salesforce、StanfordUniversity等。PaddlePaddle百度2016.819.8k集深度學(xué)習(xí)核心框架、基礎(chǔ)模型庫、端到端開發(fā)套件、工具組件和服務(wù)平臺于一體，包括開發(fā)與訓(xùn)練框架、模型庫、模型預(yù)訓(xùn)練/壓縮工具及部署框架和引擎。源于產(chǎn)業(yè)實踐，始終致力于與產(chǎn)業(yè)深入融合目前飛槳已廣泛應(yīng)用于工業(yè)、農(nóng)業(yè)、服務(wù)業(yè)等，服務(wù)

406萬開發(fā)者。英特爾、英偉達(dá)、浪潮、華為、寒武紀(jì)中國聯(lián)通、中信銀行、中國南方電網(wǎng)、比特大陸、深交所、千千音樂等。11核心分析框架：數(shù)據(jù)是機(jī)器學(xué)習(xí)的核心，也是機(jī)器學(xué)習(xí)的瓶頸資料來源：專家調(diào)研，

Appen，Defined.ai，

Mindflow，

PhoenixNAP，EasyAI，國海證券研究所數(shù)據(jù)決定了機(jī)器學(xué)習(xí)算法的性能、泛化能力、應(yīng)用效果；數(shù)據(jù)獲取、標(biāo)注、清洗、存儲也是機(jī)器學(xué)習(xí)瓶頸之一。步驟定義成本占比特點展望數(shù)據(jù)收集通過爬蟲、API接口、數(shù)據(jù)采購等方式，從不同的數(shù)據(jù)源中獲取數(shù)據(jù)，例如文本、圖像、視頻、音頻等。30%主要來源：1）公共數(shù)據(jù)庫（API接口等）；2）企業(yè)自行收集（爬蟲、問卷、訪談等）；3）第三方數(shù)據(jù)供應(yīng)商采購；4）經(jīng)授權(quán)的客戶數(shù)據(jù)；5）平臺模擬生成數(shù)據(jù)隨著AI商用化提速加碼，數(shù)據(jù)反哺，可用數(shù)據(jù)將越來越多，數(shù)據(jù)獲取邊際成本將逐步降低。數(shù)據(jù)標(biāo)注人工或半自動對原始數(shù)據(jù)進(jìn)行標(biāo)注，包括分類、語義分割（圖像背景，物人）、目標(biāo)檢測標(biāo)注（邊界框、關(guān)鍵信息）、序列標(biāo)注（序列數(shù)據(jù)文本音頻中，類別、實體、關(guān)鍵字等）。、40%-50%1）無監(jiān)督學(xué)習(xí)無需數(shù)據(jù)標(biāo)注，部分簡單數(shù)據(jù)，機(jī)器學(xué)習(xí)平臺可自動化標(biāo)注；2）監(jiān)督學(xué)習(xí)仍需標(biāo)注數(shù)據(jù)；3）專業(yè)領(lǐng)域、圖像等復(fù)雜數(shù)據(jù)基本仍需人工標(biāo)注。無監(jiān)督學(xué)習(xí)逐漸流行，自動化程度逐步升高，對于簡單數(shù)據(jù)集標(biāo)注需求下降；但專業(yè)領(lǐng)域和復(fù)雜數(shù)據(jù)集仍需要人工標(biāo)注，且人工單位成本更高；隨著人工智能快速發(fā)展，智能化程度的提升，數(shù)據(jù)標(biāo)注全面自動化也是有可能的。數(shù)據(jù)清洗根據(jù)數(shù)據(jù)類型和需求，進(jìn)行缺失值處理、異常值處理、噪聲處理、重復(fù)數(shù)據(jù)處理、數(shù)據(jù)格式轉(zhuǎn)換等。20%-30%減少錯誤和不準(zhǔn)確數(shù)據(jù)對模型的干擾，提高模型準(zhǔn)確性和可靠性。目前數(shù)據(jù)清洗仍以手動為主，但在某些數(shù)據(jù)較為標(biāo)準(zhǔn)化的場景中（如日志數(shù)據(jù)、網(wǎng)絡(luò)流量分析），一般可以通過編寫自動化的腳本或者使用一些現(xiàn)成的工具來實現(xiàn)，以去除無效或者重復(fù)的數(shù)據(jù)；隨著人工智能快速發(fā)展，智能化程度的提升，數(shù)據(jù)清洗全面自動化也是有可能的。數(shù)據(jù)存儲將機(jī)器學(xué)習(xí)算法需要用到的數(shù)據(jù)保存到磁盤或內(nèi)存中，以便后續(xù)的訓(xùn)練、測試和預(yù)測。數(shù)據(jù)分為訓(xùn)練集（約60%）、驗證集（約20%）、測試集（約20%）；需要選擇合適的數(shù)據(jù)格式存儲，不同格式會影響讀取速度、空間占比等；大規(guī)模數(shù)據(jù)集需要進(jìn)行分割后存儲。需要選擇合適的數(shù)據(jù)格式存儲，不同格式會影響讀取速度、空間占比等；大規(guī)模數(shù)據(jù)集需要進(jìn)行分割后存儲。12資料來源：量子位，《Intelligent

Computing:

The

Latest

Advances,

Challenges,

and

Future》SHIQIANG

ZHU等，國海證券研究所核心分析框架：隨著模型參數(shù)量的提升，算力需求顯著增加算力消耗每24個月翻倍（摩爾定律）算力消耗每3.4個月翻倍算力消耗每2個月翻倍→GPU計算←Pre-GPU計算大模型的參數(shù)量整體呈上升趨勢訓(xùn)練大模型的算力消耗上升，且增速變快13核心分析框架：

AIGC——生產(chǎn)力的革命資料來源：量子位，wuhu動畫人空間，數(shù)據(jù)派THU，F(xiàn)orbes，

《Generative

Adversarial

Networks》Goodfellow等，《Using

Pre-Training

CanImprove

Model

Robustness

and

Uncertainty》Hendrycks等，《Diffusion

Models

Beat

GANs

on

Image

Synthesis》Dhariwal等，國海證券研究所算法應(yīng)用文本生成圖像生成音頻生成類型 任務(wù)視頻生成代碼生成交互文本：閑聊機(jī)器人、文本交互游戲；非交互文本：結(jié)構(gòu)化/非結(jié)構(gòu)化、輔助性寫作。GLIDE、DiscoDiffusion、

Big

Sleep、StarryAl、VOMBO

Dream、百度文心ERNIE-VLG等。語音克隆、文本生成特定語音、音樂生成等。數(shù)字人生成圖像編輯/修復(fù)、風(fēng)格轉(zhuǎn)化、圖像生成（AI繪畫）等。視頻生成、實時交互視頻編輯（AI換臉、特效、刪除特定主體、跟蹤剪輯等）、自動剪輯等。代碼補(bǔ)全、自動注釋、根據(jù)上下文/注釋自動生成代碼等。Gliacloud、Pencil、VideoGPT、百度智能視頻合成平臺VidPress、慧川智能等。ChatGPT、Writesonic、Conversion..ai、Snazzy

Al、Copysmith、Copy.ai、彩云小夢等。Deepmusic、AIVA、Landr、IBM

Watson

Music、Magenta、網(wǎng)易-有靈智能創(chuàng)作平臺等。游戲生成元素生成：游戲場景、劇情、NPC生成；策略生成：對戰(zhàn)策略等。rct

AI、超參數(shù)、騰訊AI

Lab、網(wǎng)易伏羲等。Codex、Tabnine、CodeT5、Polycoder、Cogram等。3D生成VR；3D打印等。生成式對抗網(wǎng)絡(luò)（GAN）騰訊、網(wǎng)易、影譜科技、硅基智能、倒映有聲等。擴(kuò)散模型（Diffusion）多模態(tài)預(yù)訓(xùn)練模型?

?

2014年提出，由生成器網(wǎng)絡(luò)（Generator）和判別器網(wǎng)絡(luò)（Discriminator）組成，相互博弈、對抗，不斷提高生成樣本真實性和判別器準(zhǔn)確性。

?

優(yōu)點：生成樣本質(zhì)量高，無需大量數(shù)據(jù)標(biāo)注，適用于多種數(shù)據(jù)類型，可用于數(shù)據(jù)增強(qiáng)。缺點：訓(xùn)練不穩(wěn)定、容易崩潰，生成樣本難控制，需要大量計算資源，容易過擬合。2019年提出，多模態(tài)數(shù)據(jù)預(yù)訓(xùn)練，實現(xiàn)多種模態(tài)數(shù)據(jù)的聯(lián)合表示。優(yōu)點：泛化能力、數(shù)據(jù)利用率、模型魯棒性和可遷移性高。缺點：數(shù)據(jù)、算力需求大，特定任務(wù)需調(diào)參。

?

2021年提出，相較于GAN，是圖像生成領(lǐng)域的一大進(jìn)步，不需要明確地計算數(shù)據(jù)的先驗概率分布。通過“擴(kuò)散”

來執(zhí)行隱空間中的推斷。優(yōu)點：更加靈活建模，樣本多樣性、可控性更高，訓(xùn)練過程簡單、可擴(kuò)展。缺點：數(shù)據(jù)、算力需求大，過程復(fù)雜，模型魯棒性

較低。 跨模態(tài) 目前主要是文本生成圖像、視頻，根據(jù)圖像生成 視頻生成文本等；未來將有更多跨模態(tài)應(yīng)用。ChatGPT4、百度文心、阿里M6等。目前主要是基于圖像、文本生成3D建模；AR、

DreamFusion、GET3D、3DiM等。14核心分析框架：

ChatGPT史上用戶數(shù)增長最快Open

AI宣布成立初期為非盈利AI研究公司性質(zhì)；啟動資金10億美元。2015-11-112020-5-282018-6GPT-1發(fā)布參數(shù)量1.17億；

BooksCorpus數(shù)據(jù)集作為語料庫，Tokens為1.3B；結(jié)合無監(jiān)督學(xué)習(xí)及有監(jiān)督的微調(diào)。2019-2-14GPT-2發(fā)布參數(shù)量15

億；Tokens為15B；學(xué)習(xí)在無明確監(jiān)督情況下執(zhí)行多種任務(wù)。GPT-3發(fā)布參數(shù)量1750億

；Tokens為

499B；結(jié)合少樣本學(xué)習(xí)及無監(jiān)督學(xué)習(xí)。2022-1-27InstructGPT發(fā)布參數(shù)量13億；運(yùn)用RHLF，利用獎勵模型訓(xùn)練學(xué)習(xí)模型；在遵循指令及輸出內(nèi)容等性能方面優(yōu)于GPT-3。2022-11-30ChatGPT發(fā)布基于GPT-3.5預(yù)訓(xùn)練模型；截至2023年1月末，活躍用戶超過1億，成為史上用戶增長最快的應(yīng)用。LLM（largelanguagemodel）：當(dāng)模型規(guī)模超過某個閾值之后，對于通用任務(wù)的效果會顯著提升；無監(jiān)督學(xué)習(xí)（Unsupervised

pre-training）：又稱可預(yù)測學(xué)習(xí)，該學(xué)習(xí)方式使得ChatGPT在無人工標(biāo)注數(shù)據(jù)的條件訓(xùn)練，數(shù)據(jù)更多、數(shù)據(jù)成本更低，模型泛化能力更強(qiáng)；CoT(Chain

of

Thought)思維鏈：該算法使得模型生成推理路徑，并在敏感話題方面避免了無法回答的問題；RLHF(Reinforcement

Learning

From

Human

Feedback)人類反饋強(qiáng)化學(xué)習(xí)：ChatGPT能夠憑借強(qiáng)化學(xué)習(xí)的方式不斷優(yōu)化人類反

饋的語言模型。 ChatGPT功能：回答后續(xù)問題、承認(rèn)錯誤、質(zhì)疑不正確的要求以及拒絕不適當(dāng)?shù)恼埱?。理解用戶輸入信息意圖，回答內(nèi)容完整有邏輯、有條理，重點清晰；真正做到多輪溝通，對上下文有理解和記憶，對話能力更強(qiáng)。算法的突破算力、數(shù)據(jù)、人才、資金的投入算力、資金的投入：GPT3.5訓(xùn)練階段總算力消耗約3640PF-days，約使用10000個GPU+285000個CPU，OpenAI耗費(fèi)10億美元租用Azure；截止202301，每個月,ChatGPT預(yù)計花費(fèi)公司1200萬美元；數(shù)據(jù)：ChatGPT1訓(xùn)練數(shù)據(jù)來自公開的電子書；ChatGPT2訓(xùn)練數(shù)據(jù)來自Reddit；

ChatGPT2訓(xùn)練數(shù)據(jù)來自82.2%預(yù)處理的CommonCrawl語料庫、13.5%的線上圖書（GPT1數(shù)據(jù)集及Bibliotik,）、3.8%

Reddit

。OpenAI創(chuàng)始人、技術(shù)團(tuán)隊：OpenAI創(chuàng)始人均為科技人才，現(xiàn)有375名正式員工，OpenAI一年人員支出高達(dá)8931萬美元，人均約為23.8萬美元/年/人。資料來源：OpenAI官網(wǎng)，《Improving

Language

Understanding

by

Generative

Pre-Training》Alec

Radford等，《Language

Models

are

Few-Shot

Learners》Tom

B.

Brown等，

《Training

language

models

to

follow

instructionswithhuman

feedback》Long

Ouyang等，澎湃新聞，Heise，每日智匯，GitHub，《What‘s

in

my

AI》Alan

D.Thompson，通信世界網(wǎng)，

LifeArchitect

，芯東西，國海證券研究所2023.3預(yù)計推出ChatGPT4?預(yù)計為多模態(tài)大模型（語音、圖像、視頻）；新必應(yīng)已集

成ChatGPT4。表象ChatGPT發(fā)布后市場反應(yīng)熱烈主因背后杰出的用戶體驗15核心分析框架：當(dāng)模型規(guī)模達(dá)到某個閾值時，模型出現(xiàn)涌現(xiàn)能力算力消耗PF-days訓(xùn)練數(shù)據(jù)規(guī)模tokens參數(shù)量parameters模型誤差2020年1月，OpenAl發(fā)表論文《ScalingLaws

for

Neural

Language

Models》，探討模型效果與模型規(guī)模之間的關(guān)系。結(jié)論是：模型的表現(xiàn)與模型的規(guī)模之間服從Power

Law，即隨著模型規(guī)模指數(shù)級上升，模型性能實現(xiàn)線性增長。而在2022年8月，Google發(fā)表論文《EmergentAbilitiesofLargeLanguageModels》，重新探討了模型效果與模型規(guī)模之間的關(guān)系。結(jié)論是：當(dāng)模型規(guī)模達(dá)到某個閾值時，模型對某些問題的處理性能突然呈現(xiàn)快速增長。作者將這種現(xiàn)象稱為EmergentAbilities，即涌現(xiàn)能力。準(zhǔn)確率準(zhǔn)確率模型規(guī)模事實信息問答數(shù)學(xué)運(yùn)算音標(biāo)標(biāo)注繪制地圖填字謎波斯語問答上下文理解多任務(wù)自然語言理解資料來源：

《Scaling

Laws

for

Neural

Language

Models》Kaplan等，

《Emergent

Abilities

of

Large

Language

Models》Wei等，國海證券研究所16核心分析框架：

ChatGPT采用RLHF學(xué)習(xí)機(jī)制，效果優(yōu)于GPT-3的無監(jiān)督學(xué)習(xí)所有數(shù)據(jù)都有標(biāo)簽?zāi)Ｐ秃瑯?biāo)簽數(shù)據(jù)無標(biāo)簽數(shù)據(jù)模型無標(biāo)簽的數(shù)據(jù)模型完全監(jiān)督學(xué)習(xí)半監(jiān)督學(xué)習(xí)無監(jiān)督學(xué)習(xí)GPT-3采用無監(jiān)督學(xué)習(xí)機(jī)制，優(yōu)點在于無需人工進(jìn)行數(shù)據(jù)標(biāo)注，可以節(jié)省模型訓(xùn)練成本，模型泛化能力更強(qiáng)。而ChatGPT采用RLHF學(xué)習(xí)機(jī)制，即人工反饋的強(qiáng)化學(xué)習(xí)，屬于強(qiáng)化學(xué)習(xí)。不同于傳統(tǒng)的相比于傳統(tǒng)的有監(jiān)督學(xué)習(xí)機(jī)制，ChatGPT無需提前對訓(xùn)練數(shù)據(jù)進(jìn)行標(biāo)注，而只需要對人工對模型輸出的結(jié)果進(jìn)行評分，從而可以節(jié)省人力。雖然相比于GPT-3，ChatGPT需要消耗一定的人力，但是模型結(jié)果會更加符合人類偏好。有監(jiān)督學(xué)習(xí)vs無監(jiān)督學(xué)習(xí) RLHF學(xué)習(xí)機(jī)制數(shù)據(jù)標(biāo)注成本

模型精度高中低高中低資料來源：

競科技，甲子光年，國海證券研究所收集演示數(shù)據(jù)并訓(xùn)練隨機(jī)從信息庫抽取指令專業(yè)的標(biāo)注者對制定的提示給出高質(zhì)量回答專業(yè)人員用標(biāo)注數(shù)據(jù)來調(diào)優(yōu)GPT-3.5通過人工標(biāo)注訓(xùn)練數(shù)據(jù)來訓(xùn)練回報模型標(biāo)注一批模型產(chǎn)出及提示標(biāo)注人員根據(jù)多種標(biāo)準(zhǔn)對許多答案從優(yōu)到差進(jìn)行排序利用以上排序結(jié)果來訓(xùn)練回報模型使用PPO強(qiáng)化學(xué)習(xí)法優(yōu)化回報模型

-

根據(jù)RM評分結(jié)果更新預(yù)訓(xùn)練模型的參數(shù)階段2階段1階段3從用戶提交的指令/問題中隨機(jī)抽取一批新的命令由監(jiān)督模型初始化PPO模型的參數(shù)PPO模型生成回答用回報模型計算前一階段訓(xùn)練好的模型給出的回答，得到分?jǐn)?shù)回報分?jǐn)?shù)/策略梯度可以更新PPO模型參數(shù)17核心分析框架：

AIGC何時突破工業(yè)紅線？關(guān)注數(shù)據(jù)、算法和商業(yè)模式破局資料來源：量子位，InfoQ，新智元，國海證券研究所大模型：通用型、任務(wù)型、行業(yè)級 小模型：專業(yè)領(lǐng)域，細(xì)分行業(yè)大模型技術(shù)巨頭+第三方服務(wù)商巨頭：微軟、谷歌、meta、百度、阿里、華為、騰訊等；第三方服務(wù)商：SaaS廠商、其他技術(shù)廠商等。AI企業(yè)商湯、科大訊飛、曠視、云從、依圖、虹軟、格靈深瞳、拓爾思等。參與方解決問題數(shù)據(jù)是瓶頸：數(shù)據(jù)增強(qiáng)、遷移學(xué)習(xí)、數(shù)據(jù)合成、數(shù)據(jù)要素市場實現(xiàn)數(shù)據(jù)共享、數(shù)據(jù)反哺加速商業(yè)化飛輪。數(shù)據(jù)獲?。捍竽Ｐ退钄?shù)據(jù)量較大，而現(xiàn)實世界缺乏大量且優(yōu)質(zhì)數(shù)據(jù)；數(shù)據(jù)存儲、傳輸、管理：海量數(shù)據(jù)訓(xùn)練，讀取和處理速度非常關(guān)鍵。算力是支撐：短期-國內(nèi)云廠商等均早有囤貨布局；長期-硬件進(jìn)步、算法優(yōu)化、并行計算、量子計算。人才是關(guān)鍵：“挖角”、企業(yè)高校合作。商業(yè)價值閉環(huán)：技術(shù)突破、AI企業(yè)深耕垂直細(xì)分行業(yè)（know-how、先發(fā)優(yōu)勢）、規(guī)模效應(yīng)+飛輪效應(yīng)雙輪驅(qū)動。專業(yè)領(lǐng)域、長尾場景數(shù)據(jù)較少。大模型往往需要大量計算資源，且模型參數(shù)仍在快速膨脹；但AI芯片全球短缺，英偉達(dá)A100、H100被禁止向中國供貨。美國人工智能一直領(lǐng)先，國內(nèi)頂尖技術(shù)人才從數(shù)量、質(zhì)量都存在較大差距，AI領(lǐng)域（尤其是CV）優(yōu)秀的華人很多，但更多的在谷歌、微軟、Meta等企業(yè)；北京的微軟亞洲研究院的人才輸出幾乎撐起中國AI“半壁江山”。技術(shù)成本（前期訓(xùn)練成本、數(shù)據(jù)成本、人才成本，后期使用的推理成本），與帶來的增量或給企業(yè)實現(xiàn)降本增效相比，還不足以驅(qū)動企業(yè)投入AI。商業(yè)價值閉環(huán)：技術(shù)進(jìn)步、國家支持、巨頭推動、生態(tài)建設(shè)、市場化教育。海外軟件生態(tài)成熟，企業(yè)/個人用戶付費(fèi)意愿更高；國內(nèi)市場無論是生態(tài)和市場都存在較大差距。國內(nèi)外目前商業(yè)模式、付費(fèi)邏輯尚未跑通。價值觀、倫理、政治風(fēng)險等：從技術(shù)層面讓AI更可控，不要發(fā)展的那么快。18核心分析框架：互聯(lián)網(wǎng)大廠全面布局，中小廠商主要發(fā)力中下游環(huán)節(jié)AIGC產(chǎn)業(yè)鏈圖譜?

云計算（000977.SZ）浪潮信息（9988.HK）阿里（9888.HK）百度集團(tuán)（0700.HK）騰訊（未上市）華為上游 中游 下游資料來源：

量子位，各公司官網(wǎng)，互動易，深圳市人工智能行業(yè)協(xié)會，國海證券研究所?

IDC（300738.SZ）奧飛數(shù)據(jù)（603019.SH）中科曙光（9698.HK）萬國數(shù)據(jù)（CD.US）秦淮數(shù)據(jù)?

光模塊（300308.SZ）中際旭創(chuàng)（300502.SZ）新易盛（220081.SZ）光迅科技?

服務(wù)器液冷（600756.SH）浪潮信息（300017.SZ）網(wǎng)宿科技（000938.SZ）紫光股份?

數(shù)據(jù)供給方（688787.SH）海天瑞聲?

虛擬人（300229.SZ）托爾思（002467.SZ）二六三（688088.SH）虹軟科技（002362.SZ）漢王科技（300113.SZ）順網(wǎng)科技（未上市）小冰公司（未上市）倒映有聲（未上市）相芯科技（未上市）心識宇宙?

芯片（300474.SZ）景嘉微（9888.HK）百度集團(tuán)（NVDA.O）英偉達(dá)（9988.HK）阿里巴巴（688256.SH）寒武紀(jì)（002405.SZ）四維圖新（688981.SH）中芯國際（未上市）地平線?

視頻生成（688039.SH）當(dāng)虹科技（0020.HK）商湯（未上市）邁吉客（未上市）影譜科技?

電商?

游戲（300785.SZ）值得買（002624.SZ）完美世界（0700.HK）騰訊控股?

傳媒（300459.SZ）湯姆貓（301270.SZ）漢儀股份（300364.SZ）中文在線?

政務(wù)（000681.SZ）視覺中國（300075.SZ）數(shù)字政通（300781.SZ）因賽集團(tuán)（002530.SZ）金財互聯(lián)（300624.SZ）萬興科技?

C端應(yīng)用?

營銷（MSFT.O）微軟（301052.SZ）果麥文化（GOOGL.O）谷歌（002803.SZ）吉宏股份（未上市）寫作貓（301171.SZ）易點天下（未上市）寫作狐（未上市）盜夢師?

教育（未上市）詩云科技（300081.SZ）恒信東方（未上市）ZMO.ai（未上市）影譜科技?

虛擬人（未上市）帝視科技（300182.SZ）捷成股份（未上市）不咕剪輯（002354.SZ）天娛數(shù)科?

多模態(tài)?

NLP（9888.HK）百度（9988.HK）阿里巴巴（9988.HK）阿里巴巴（002230.SZ）科大訊飛（0700.HK）騰訊控股（9888.HK）百度集團(tuán)（300612.SZ）宣亞國際（002230.SZ）科大訊飛（300418.SZ）昆侖萬維（688111.SH）金山辦公（603466.SH）風(fēng)語筑（300058.SZ）藍(lán)色光標(biāo)（688327.SH）云從科技（002292.SZ）奧飛娛樂（2121.HK）創(chuàng)新奇智（學(xué)術(shù)機(jī)構(gòu)）清華大學(xué)（MSFT.O）微軟（GOOGL.O）谷歌（NVDA.O）英偉達(dá)（META.O）Meta?

3D生成（未上市）珍島（未上市）聚力維度（未上市）中科聞歌（未上市）瀾舟科技?

代碼生成（MSFT.O）微軟?

策略生成（學(xué)術(shù)機(jī)構(gòu)）清華大學(xué)（未上市）rct

AI（學(xué)術(shù)機(jī)構(gòu)）中國科學(xué)技（未上市）超參數(shù)科技術(shù)大學(xué)

（學(xué)術(shù)機(jī)構(gòu)）哈爾濱工業(yè)大學(xué)19核心分析框架：產(chǎn)業(yè)鏈各環(huán)節(jié)發(fā)展趨勢類型代表機(jī)構(gòu)上游中游下游競爭優(yōu)勢算力數(shù)據(jù)大模型小模型行業(yè)合作內(nèi)部賦能互聯(lián)網(wǎng)大廠（全面布局）百度百度云昆侖芯片百度各產(chǎn)品數(shù)據(jù)行業(yè)合作伙伴數(shù)據(jù)文心大模型包括在文心大模型中的各類行業(yè)模型與B端企業(yè)有廣泛合作百度搜索百度各類產(chǎn)品的內(nèi)容推薦先發(fā)優(yōu)勢具有較多的行業(yè)數(shù)據(jù)和專業(yè)知識數(shù)據(jù)阿里阿里云平頭哥芯片淘寶、天貓電商數(shù)據(jù)阿里云B端數(shù)據(jù)阿里M6大模型-合作較多電商搜索阿里云和企業(yè)服務(wù)在大模型研發(fā)上具有資金和人才優(yōu)勢騰訊騰訊云微信用戶數(shù)據(jù)騰訊視頻、新聞數(shù)據(jù)騰訊游戲數(shù)據(jù)混元大模型騰訊游戲AI騰訊游戲AI

NPC合作較少 微信等產(chǎn)品的自媒體創(chuàng)作、內(nèi)容推薦具有較多的用戶數(shù)據(jù)和娛樂內(nèi)容數(shù)據(jù)華為華為云海思芯片手機(jī)用戶數(shù)據(jù)盤古大模型盤古大模型中的各類行業(yè)模型合作較少較少深耕上游和中游賦能下游廠商谷歌谷歌云搜索數(shù)據(jù)谷歌學(xué)術(shù)Youtube數(shù)據(jù)Imagen、ExTS、PaLM等-合作較少Bard+GoogleAI賦能搜索業(yè)務(wù)，同時快速積累新用戶微軟Azure云Office用戶數(shù)據(jù)Bing搜索數(shù)據(jù)LayoutLM、DiT以及OpenAI旗下的大模型-較多企業(yè)接入chatGPT接口chatGPT+BingchatGPT+OfficeAI賦能搜索和辦公業(yè)務(wù)，同時快速積累新用戶學(xué)術(shù)機(jī)構(gòu)（中游為主）清華大學(xué)中國科學(xué)技術(shù)大學(xué)

哈爾濱工業(yè)大學(xué)等主要通過外購互聯(lián)網(wǎng)公開數(shù)據(jù)√√合作方向主要為學(xué)術(shù)研究-政府支持人才儲備中小廠商（中下游為主）中游小模型廠商主要通過外購垂直行業(yè)數(shù)據(jù)- 垂直行業(yè)模型√√行業(yè)know-how積累行業(yè)數(shù)據(jù)下游應(yīng)用廠商主要通過外購垂直行業(yè)數(shù)據(jù)--√√客戶粘性用戶粘性產(chǎn)業(yè)鏈核心競爭要素規(guī)模效應(yīng)政府補(bǔ)助前期研發(fā)投入數(shù)據(jù)規(guī)模數(shù)據(jù)質(zhì)量數(shù)據(jù)獲取成本資金能力技術(shù)能力人才儲備行業(yè)Know-how行業(yè)數(shù)據(jù)先發(fā)優(yōu)勢行業(yè)know-how內(nèi)部用戶規(guī)模和業(yè)務(wù)數(shù)據(jù)積累；業(yè)務(wù)和AI技術(shù)結(jié)合的可行性產(chǎn)業(yè)鏈未來發(fā)展方向頭部效應(yīng)↑邊際成本↓通用類數(shù)據(jù)集中于大廠，而垂直行業(yè)數(shù)據(jù)分散頭部效應(yīng)↑百花齊放通用型內(nèi)容生成集中于

大廠對外提供服務(wù)的同時大廠，而垂直行業(yè)解決

內(nèi)部賦能，小廠采取外購方案百花齊放 的方式更加經(jīng)濟(jì)資料來源：

瀾舟科技，AspenCore，海思，前瞻產(chǎn)業(yè)研究院，IDC，機(jī)器之心，國海證券研究所20核心分析框架：大模型商業(yè)化初啟，小模型在部分領(lǐng)域已實現(xiàn)商業(yè)價值閉環(huán)商業(yè)模式大模型 小模型MaaS（Model

as

a

Service）

垂直行業(yè)解決方案1)按調(diào)用次數(shù)或調(diào)用量（Tokens等）收費(fèi)；2）按年/月訂閱套餐收費(fèi)；3）定制服務(wù)，特定領(lǐng)域再開發(fā)，將大模型和數(shù)據(jù)庫打包，按項目收費(fèi)。1）純軟件及平臺；1）一站式解決方案面向用戶企業(yè)、機(jī)構(gòu)、個人企業(yè)、機(jī)構(gòu)細(xì)分行業(yè)企業(yè)毛利率標(biāo)準(zhǔn)化產(chǎn)品，毛利率可達(dá)90%+。含外購硬件，毛利率30%-70%。提供商推理算力成本，毛利率可達(dá)80%+。 含再開發(fā)項目實施費(fèi)用。OpenAI、微軟、谷歌、Meta、百度、阿里、華為、騰訊、商湯、科大訊飛、字節(jié)、京東等?？拼笥嶏w、商湯、曠視、云從、依圖、虹軟、格靈深瞳、云天勵飛、拓爾思、?？低暤取ＹY料來源：國海證券研究所商業(yè)模式大模型廠商自用，實現(xiàn)增量或降本增效。云廠商“MaaS+IaaS”打 替代翻譯、美工、原畫師、包輸出，實現(xiàn)IaaS收入增長

程序員、分析師、設(shè)計師和增量服務(wù)收入。 等繁瑣重復(fù)的低端工作。垂直行業(yè)解決方案，包括SDK產(chǎn)品、一站式落地解決方案。付費(fèi)邏輯等；基于C端用戶使用量內(nèi)部付費(fèi)會議相關(guān)產(chǎn)品等，字節(jié)內(nèi)容創(chuàng)作

況付費(fèi)。費(fèi)。谷歌

、

微軟必應(yīng)搜索引擎

，

大模型廠商+SaaS廠商，打1）企業(yè)開發(fā)者調(diào)用后自用

智慧城市、智慧交通、智慧樓宇、智慧園區(qū)、智慧醫(yī)療、智慧金融、YouTube視頻創(chuàng)作等，阿里電商

造更多可直接面向C端的產(chǎn)

或個人用戶自行調(diào)用，

基智慧生活、智能制造等多領(lǐng)域均有企業(yè)布局，在過去主要是感知、營銷產(chǎn)品，騰訊企業(yè)微信、騰訊

品，SaaS廠商根據(jù)調(diào)用情

于自身需求調(diào)用付費(fèi)；

分析、決策式AI，部分存在生成式AI，已有部分行業(yè)實現(xiàn)商業(yè)價值2）為SaaS廠商提供產(chǎn)品付

閉環(huán)，主要是傳統(tǒng)軟件收費(fèi)邏輯，不同行業(yè)略有不同。中美差距國內(nèi)廠商的產(chǎn)品更加豐富多元。差距不大且均有較大需求，甚至

生態(tài)差距較大，

美國SaaS行業(yè)尚在快速發(fā)展中。廠商面向全球，

中國SaaS

海外付費(fèi)意識更高。中美企業(yè)格局略有差異，美國頭部效應(yīng)更為明顯，主要由細(xì)分行業(yè)龍頭或者科技巨頭提供相關(guān)AI驅(qū)動的解決方案；中國不局限于科技巨頭和行業(yè)龍頭，還有眾多AI企業(yè)在眾多細(xì)分行業(yè)、領(lǐng)域布局。21核心分析框架：總成本持續(xù)提升，但同級別參數(shù)消耗量將顯著下降成本項占比算力成本40%-70%設(shè)備折舊14%-24.5%存儲10-17.5%電費(fèi)12%-21%寬帶4%-7%數(shù)據(jù)成本20%-35%數(shù)據(jù)收集6%-10.5%數(shù)據(jù)標(biāo)注8%-17.5%數(shù)據(jù)清洗4%-7%數(shù)據(jù)存儲人力成本10%-25%資料來源：專家訪談，國海證券研究所表：大模型訓(xùn)練成本中各成本占比概覽隨著參數(shù)量快速膨脹，算力成本會持續(xù)上升；但隨著模型壓縮、蒸餾等，同參數(shù)量級別的模型算力消耗量會顯著下降。數(shù)據(jù)獲取：隨著應(yīng)用較快數(shù)據(jù)反哺，數(shù)據(jù)獲取邊際成本將下降；數(shù)據(jù)標(biāo)注：有兩個方向，一是無監(jiān)督學(xué)習(xí)流行、標(biāo)注自動化提升，數(shù)據(jù)標(biāo)注成本下降；而是對于專業(yè)領(lǐng)域、圖像視頻等復(fù)雜數(shù)據(jù)標(biāo)注需求提升。隨著數(shù)據(jù)量快速膨脹，訓(xùn)練數(shù)據(jù)集需求越來越大，數(shù)據(jù)存儲成本也將相應(yīng)提升。AI資產(chǎn)復(fù)用、自動化程度提升，規(guī)模效應(yīng)，單位人力成本下降。注：參考ChatGPT、百度文心、阿里M6、華為盤古大模型數(shù)據(jù)表：各大模型全局訓(xùn)練成本概覽模型算力成本占比數(shù)據(jù)成本占比人力成本占比單次完整訓(xùn)練價格（萬美元/次）全年完整訓(xùn)練次數(shù)（次）全年訓(xùn)練成本（萬美元）已投入金額（萬美元）ChatGPT370%20%10%400-10001-22000左右4300左右ChatGPT3.560%25%15%400-10001-2不到200022一、行業(yè)篇：人工智能發(fā)展步入新階段，AIGC創(chuàng)造新機(jī)遇23資料來源：

36氪，界面新聞，甲子光年，開源資訊，

Companyhistory，digitaltrends，IDG

news

service，likecs，payititi，TechCPR，the

verge，VRcompare每一輪人機(jī)交互的變革都會帶來產(chǎn)業(yè)級投資機(jī)會產(chǎn)業(yè)機(jī)會變革節(jié)點人機(jī)交互模式PC操作系統(tǒng)Macintosh、Windows瀏覽器IE瀏覽器、網(wǎng)景瀏覽器等搜索引擎Yahoo、Google等智能手機(jī)Iphone等人機(jī)共生人形機(jī)器人、AIGC等ARVROculus

Quest、HTCVive、Hololens等1984年蘋果推出劃時代的Macintosh計算機(jī)，不僅首次采用圖形界面的操作系統(tǒng)，并第一次使個人計算機(jī)具有了多媒體處理能力；1985年微軟推出Windows系統(tǒng)1993年NCSA中Mosaic項目的負(fù)責(zé)人辭職并建立了網(wǎng)景通訊公司，推出網(wǎng)景瀏覽器；1995年微軟推出IE1.0瀏覽器，作為Windows

95的默認(rèn)瀏覽器，改變了用戶網(wǎng)上沖浪方式1995年Yahoo公司正式成立，1998年開始轉(zhuǎn)向使用Inktomi的搜索數(shù)據(jù)；1998年Google成立，后NetScrpe放棄Excite，開始使用Google的搜索數(shù)據(jù)，具備里程碑意義2007年蘋果發(fā)布自PC以來最具變革性的產(chǎn)品——iphone

2G，大部分操作都將由用戶觸控屏幕實現(xiàn)；iPhone

4在外觀、顯示、芯片均大幅改善，并提供六軸動作感應(yīng)2016年Facebook正式發(fā)售Oculus

rift消費(fèi)者版本，被稱為消費(fèi)級VR設(shè)備元年；2015年索尼推出PlayStationVR；2015年微軟發(fā)布混合現(xiàn)實的智能眼鏡Hololens2014年，波士頓動力發(fā)布初代Atlas

(2021已實現(xiàn)跑酷)；2022年，Tesla預(yù)計發(fā)布Optimus原型機(jī)；2022年11月Open

AI發(fā)布人工智能技術(shù)驅(qū)動的自然語言處理工具ChatGPT鼠標(biāo)+鍵盤，可點擊，但交互模式單一且不智能，人較為被動鼠標(biāo)+鍵盤，瀏覽器聚合功能改善交互成本鼠標(biāo)+鍵盤，搜索引擎的檢索功能以人為中心，降低精準(zhǔn)信息獲取門檻觸屏+鍵盤，人機(jī)交互更加直觀便捷，人處于主動地位手勢追蹤、Inside-out、Outside-in、眼球追蹤等，交互方式多元化，沉浸感強(qiáng)人機(jī)共生，文字、音頻、視頻、3D、策略等交互模式融合，智能化程度顯著提升操作系統(tǒng)、早期郵箱、早期超級計算中心等光纜/運(yùn)營商、瀏覽器、門戶網(wǎng)站、通訊軟件等搜索引擎、眾多PC互聯(lián)網(wǎng)網(wǎng)頁應(yīng)用等手機(jī)硬件產(chǎn)業(yè)鏈、應(yīng)用商店、各大手機(jī)APP應(yīng)用等VRAR硬件產(chǎn)業(yè)鏈、云計算/邊緣計算、視頻&直播&游戲應(yīng)用等機(jī)器人硬件產(chǎn)業(yè)鏈、AI產(chǎn)業(yè)鏈（模型算力數(shù)據(jù)等）、下游應(yīng)用等24AI發(fā)展歷程：期待算力、數(shù)據(jù)、算法的突破，邁向強(qiáng)人工智能AGI階段資料來源：智東西，國海證券研究所規(guī)則導(dǎo)向1950s-1980s感知機(jī)、專家系統(tǒng)機(jī)器學(xué)習(xí)1980s-21世紀(jì)初期支持向量機(jī)、神經(jīng)網(wǎng)絡(luò)、決策樹深度學(xué)習(xí)21世紀(jì)初期至今多層神經(jīng)網(wǎng)絡(luò)模型理論發(fā)展硬件奠基，算法發(fā)展核心硬件發(fā)展，算法突破自主學(xué)習(xí)未來發(fā)展方向基于大規(guī)模數(shù)據(jù)識別、預(yù)測、學(xué)習(xí)、決策算力、數(shù)據(jù)、算法全面突破決策式AI生成式AI始于1950s，讓計算機(jī)感知和理解現(xiàn)實世界，興盛于計算機(jī)硬件發(fā)展與大數(shù)據(jù)出現(xiàn)。分析式AI始于1960s，利用邏輯推理等方法進(jìn)行分析和解決；興盛于機(jī)器學(xué)習(xí)、數(shù)字挖掘技術(shù)興起。始于1970s，分析之后，進(jìn)行智能決策；近年來才開始真正興盛。始于1980s，起源于分析式AI，生成新的內(nèi)容；

2022年迎來突破。感知式AI文本識別、語音識別、圖像識別等。運(yùn)營營銷決策、金融風(fēng)險評估、醫(yī)療診斷等。自然語言生成、圖像生成、音樂生成等。生成式AI生成各種數(shù)據(jù)、圖像、語音等內(nèi)容后，決策式AI對生成內(nèi)容進(jìn)行分析和決策，實現(xiàn)更加全面和智能的應(yīng)用。弱人工智能階段ANI強(qiáng)人工智能階段AGI超人工智能階段ASI25AIGC發(fā)展歷程：文本、代碼生成技術(shù)較成熟，圖片、視頻生成值得期待資料來源：億歐網(wǎng)，紅杉資本，中國信通院《人工智能生成內(nèi)容（AIGC）白皮書》受限于科技水平，AIGC僅限于小范圍實驗1950s~1990s早期萌芽階段AIGC從實驗性轉(zhuǎn)向?qū)嵱眯?，受限于算法瓶頸，無法直接進(jìn)行內(nèi)容生成1990s~2010s沉淀積累階段深度學(xué)習(xí)算法不斷迭代人工智能生成內(nèi)容百花齊放效果逐漸逼真2010s至今快速發(fā)展階段2020年前202020222025E2030E2050E文本生成垃圾郵件識別翻譯基礎(chǔ)問答基礎(chǔ)文案寫作草稿撰寫長文本寫作草稿撰寫與修改代碼生成單行代碼生成多行代碼生成專業(yè)文本寫作（如科研、金融、醫(yī)療）支持更多代碼語言支持更多垂直行業(yè)終稿寫作寫作能力超越人類平均水平輸入文本即可自動生成產(chǎn)品原型圖片生成長代碼寫作準(zhǔn)確率提升藝術(shù)生成Logo生成照片編輯與合成產(chǎn)品原型設(shè)計建筑原型設(shè)計產(chǎn)品最終設(shè)計定稿建筑最終設(shè)計定稿視頻/3D生成視頻初稿視頻初稿與修改終稿寫作寫作能力超越人類專業(yè)人士輸入文本即可自動生成最終產(chǎn)品設(shè)計能力超越藝術(shù)家、專業(yè)設(shè)計師、專業(yè)攝影師AI機(jī)器人個性化的電影游戲AI個性化的游戲1950年，艾倫·圖靈提出著名的“圖靈測試”，

2007年，世界第一部完全由人工智能創(chuàng)作的 2014年，Ian

J.

Goodfellow提出生成式對抗網(wǎng)給出判定機(jī)器是否具有“智能”的試驗方法 小說《I

TheRoad》問世 絡(luò)GAN2012年，微軟展示全自動同聲傳譯系統(tǒng)，可將英文演講內(nèi)容自動翻譯為中文語音1957年，第一支由計算機(jī)創(chuàng)作的弦樂四重奏《依利亞克組曲》完成1966年，世界第一款可人機(jī)對話的機(jī)器人“Eliza”問世2017年，微軟“小冰”提出世界首部100%由人工智能創(chuàng)作的詩集《陽光失了玻璃窗》2018年，英偉達(dá)發(fā)布StyleGAN模型可以自動生成高質(zhì)量圖片2018年，人工智能生成的畫作在佳士得拍賣行得以43.25萬美元成交，成為首個出售的人工智能藝術(shù)品2019年，DeepMind發(fā)布DVD-GAN模型用以生成連續(xù)視頻2021年，OpenAI提出了DALL-E，主要用于文本與圖像交互生成內(nèi)容26內(nèi)容創(chuàng)作模式進(jìn)化：去中心化↑連接數(shù)量↑創(chuàng)作速度↑創(chuàng)作規(guī)?！Y料來源：詩云科技，國海證券研究所現(xiàn)在未來生產(chǎn)關(guān)系內(nèi)容創(chuàng)作者內(nèi)容消費(fèi)者內(nèi)容消費(fèi)者內(nèi)容消費(fèi)者內(nèi)容消費(fèi)者內(nèi)容消費(fèi)者內(nèi)容消費(fèi)者內(nèi)容共創(chuàng)者內(nèi)容共創(chuàng)者內(nèi)容共創(chuàng)者內(nèi)容共創(chuàng)者內(nèi)容共創(chuàng)者內(nèi)容共創(chuàng)者溝通加工渲染演繹拍攝設(shè)備創(chuàng)意鏡頭所見創(chuàng)意鏡頭所想創(chuàng)作過程創(chuàng)作主體專業(yè)機(jī)構(gòu)平臺用戶用戶+AI純AI創(chuàng)作規(guī)模27內(nèi)容創(chuàng)作模式進(jìn)化：從供給轉(zhuǎn)變?yōu)樾枨髮?dǎo)向，從單次轉(zhuǎn)變?yōu)槎啻紊a(chǎn)資料來源：rctAI，詩云科技，國海證券研究所真實世界虛擬世界原生的真實世界現(xiàn)實化的虛擬世界數(shù)字化的虛擬世界原生的虛擬世界穿著飲食出行住宿書籍桌游手辦Cosplay社交/社區(qū)電商/交易流媒體/媒體協(xié)作/辦公電子游戲影視/動畫設(shè)計/特效訓(xùn)練/模擬供給導(dǎo)向：真實世界信息的“數(shù)字化”+創(chuàng)意“數(shù)字化”需求導(dǎo)向：虛擬世界數(shù)字信息的傳遞利用真實資源生產(chǎn)和消耗有形產(chǎn)品利用虛擬資源生產(chǎn)和消耗虛擬產(chǎn)品階段一圍繞人臉的生成階段二圍繞人體的生成階段三圍繞環(huán)境的生成再生產(chǎn)生產(chǎn)角色形象生成文字驅(qū)動視頻生成音頻驅(qū)動視頻生成3D姿態(tài)建模動作生成物體生成場景創(chuàng)作表情驅(qū)動嘴型同步圖片視頻形象遷移人臉屬性編輯AI換裝姿態(tài)轉(zhuǎn)移場景二次創(chuàng)作供給導(dǎo)向的真實世界→需求導(dǎo)向的虛擬世界低效率的單次生產(chǎn)→高效率的多次生產(chǎn)28內(nèi)容創(chuàng)作模式對比：AIGC實現(xiàn)內(nèi)容創(chuàng)作呈高質(zhì)量、大數(shù)量、低成本趨勢PGC UGCPGC UGCPGC UGC AIGC數(shù)量階段Web

1.0Web

2.0Web

3.0Web

1.0Web

2.0Web

3.0質(zhì)量總成本單位成本數(shù)量數(shù)量階段PGC UGC AIGC資料來源：《先利其器：元宇宙場景下的AIGC及其GLAM應(yīng)用機(jī)遇》王諾等，國海證券研究所用戶成為內(nèi)容創(chuàng)作的主角提升了互聯(lián)網(wǎng)的內(nèi)容生產(chǎn)規(guī)模內(nèi)容生產(chǎn)來源于專業(yè)組織或個人，內(nèi)容規(guī)模有限在算力與算法支撐下，AIGC內(nèi)容生成規(guī)模所受到的限制遠(yuǎn)低于PGC與UGC，AIGC可以在極短時間內(nèi)生成大量內(nèi)容PGC生產(chǎn)者的專業(yè)性保證了內(nèi)容質(zhì)量UGC

模式下內(nèi)容生產(chǎn)質(zhì)量良莠不齊AIGC隨著算法與模型不斷優(yōu)化，AIGC生成內(nèi)容的質(zhì)量將會逐漸超過UGC與

PGC內(nèi)容生成的單位成本內(nèi)容生成的總成本PGC UGC AIGC成本支出隨著內(nèi)容規(guī)模的增加而同比增長，但總成本增長速度PCG>UGC>AIGCPGC與UGC模式下單位內(nèi)容生產(chǎn)成本下降幅度有限AIGCAIGC

模式具有顯著的規(guī)模遞減優(yōu)勢，其成本支出主要在于模型算法開發(fā)與硬件等固定成本領(lǐng)域，所以在元宇宙場景下，AIGC

生成內(nèi)容規(guī)模越大，其單位內(nèi)容生成的邊際成本將會逐漸下降且無限逼近于零傳統(tǒng)的

PGC

與

UGC

模式受到規(guī)模、質(zhì)量和成本的制約，而AIGC

則能夠有效地彌補(bǔ)

PGC

與

UGC

模式的不足，具有生成內(nèi)容規(guī)模大、質(zhì)量高、單位成本低的優(yōu)勢，將會成為元宇宙場景下的主要內(nèi)容生成模式，從而為元宇宙建設(shè)提供內(nèi)容支撐。內(nèi)容生成的數(shù)量 內(nèi)容生成的質(zhì)量PGCUGCAIGC29生產(chǎn)人生產(chǎn)人生產(chǎn)人生產(chǎn)人和機(jī)器生產(chǎn)人和機(jī)器機(jī)器生產(chǎn)人生產(chǎn)人生產(chǎn)人生產(chǎn)人和機(jī)器生產(chǎn)人和機(jī)器生產(chǎn)人和機(jī)器生產(chǎn)人和機(jī)器機(jī)器機(jī)器機(jī)器機(jī)器機(jī)器受限受限受限部分受限部分受限不受限受限受限部分受限部分受限不受限不受限受限部分受限部分受限不受限不受限不受限分級0級1級2級3級4級5級發(fā)展趨勢生產(chǎn)模式生產(chǎn)人生產(chǎn)內(nèi)容機(jī)器輔助審核機(jī)器輔助加工機(jī)器有條件自動生產(chǎn)內(nèi)容機(jī)器高度自動生產(chǎn)內(nèi)容機(jī)器完全自動生產(chǎn)內(nèi)容AI

滲透率↑采集生產(chǎn)主體 加工審核AI

滲透率↑AI

滲透率↑AI

滲透率↑采集生產(chǎn)力↑生產(chǎn)力限制 加工生產(chǎn)力↑審核生產(chǎn)力↑技術(shù)要求素材上傳、存儲、分類檢索、權(quán)限設(shè)置多媒體內(nèi)容編輯，提供文字、圖片、視頻功能內(nèi)容在線批注、修改支持內(nèi)容審核，包括文字規(guī)范性核查，

人物/機(jī)構(gòu)/

地域等實體屬性核查等自動標(biāo)題、自動摘要、智能字幕、文本生成在內(nèi)容審核過程中自動屏蔽、剔除或修改內(nèi)容抓取線上數(shù)據(jù)根據(jù)內(nèi)容模板利用線上數(shù)據(jù)自動生成內(nèi)容采集素材的規(guī)范性與準(zhǔn)確性審核支持固定位置的線下設(shè)備進(jìn)行數(shù)據(jù)采集支持根據(jù)已設(shè)定的內(nèi)容模板對原始數(shù)據(jù)進(jìn)行加工后自動生成內(nèi)容支持可移動設(shè)備自動進(jìn)行數(shù)據(jù)采集分析原始數(shù)據(jù)，自動判斷是否需要進(jìn)一步采集并根據(jù)素材挑選模板自動生成內(nèi)容技術(shù)能力↑AIGC演進(jìn)趨勢：輔助生產(chǎn)

→

自動化獨(dú)立創(chuàng)作隨著人工智能算法的進(jìn)步和算力的提升，AIGC

將逐步擺脫對

PGC

和

UGC

的依賴，從輔助內(nèi)容生成轉(zhuǎn)變完全獨(dú)立創(chuàng)作，充分釋放創(chuàng)作潛力，持續(xù)輸出高質(zhì)量、多樣化、高自由內(nèi)容，滿足未來消費(fèi)者對內(nèi)容數(shù)量及質(zhì)量的雙重剛性需求。資料來源：中國新聞技術(shù)工作者聯(lián)合會《機(jī)器生產(chǎn)內(nèi)容自動化分級》團(tuán)體標(biāo)準(zhǔn)，國海證券研究所30二、技術(shù)篇：算力是支撐，數(shù)據(jù)是核心，算法逐步迎來突破31機(jī)器學(xué)習(xí)：機(jī)器學(xué)習(xí)分為訓(xùn)練和推理，數(shù)據(jù)決定上限，算法逼近上限資料來源：各框架官網(wǎng)，

EasyAI，GitHub，機(jī)器之心，國海證券研究所（注：GitHub

Star為截止2023.3.13主體框架star數(shù)據(jù)）從原始數(shù)據(jù)提取有代表性、可解釋的特征。機(jī)器學(xué)習(xí)可以分為訓(xùn)練和推理兩個階段，訓(xùn)練是指使用已知數(shù)據(jù)集訓(xùn)練機(jī)器學(xué)習(xí)模型；推理是指使用已訓(xùn)練好的模型對新的數(shù)據(jù)進(jìn)行預(yù)測、分類等任務(wù)。數(shù)據(jù)和特征決定了機(jī)器學(xué)習(xí)的上限，模型和算法逼近上限。無監(jiān)督學(xué)習(xí)監(jiān)督學(xué)習(xí)強(qiáng)化學(xué)習(xí)根據(jù)分類、回歸、聚類等各種問題有相應(yīng)評估指標(biāo)。自己寫代碼實現(xiàn)模型或使用現(xiàn)成的框架。特征工程 模型選擇 模型訓(xùn)練 模型評估 模型調(diào)優(yōu) 模型部署和應(yīng)用網(wǎng)格搜索、隨機(jī)搜索、貝葉斯優(yōu)化、梯度優(yōu)化、集成方法等選取最優(yōu)參數(shù)組合，提高模型性能。模型封裝后，導(dǎo)入生產(chǎn)環(huán)境進(jìn)行推理。API 邊緣 集成部署 部署 部署批處理 容器化部署 部署訓(xùn)練 收集數(shù)據(jù) 數(shù)據(jù)準(zhǔn)備包括數(shù)據(jù)收集、預(yù)處理、存儲；數(shù)據(jù)的質(zhì)量和梳理對算法效果至關(guān)重要；也是機(jī)器學(xué)習(xí)的瓶頸之一。推理

數(shù)據(jù)預(yù)處理

模型加載輸入轉(zhuǎn)換模型推理輸出轉(zhuǎn)換結(jié)果后處理結(jié)果展示深度學(xué)習(xí)框架開發(fā)者發(fā)布/開源時間GitHubStar功能特點受眾TensorFlowGoogle2015.11172k端到端開源機(jī)器學(xué)習(xí)平臺，擁有全面而靈活的生態(tài)系統(tǒng)，其中包含各種工具、庫和社區(qū)資源，包括自定義、分布式訓(xùn)練、圖像、文本、音頻、結(jié)構(gòu)化數(shù)據(jù)、生成式、模型理解、強(qiáng)化學(xué)習(xí)、tfEstimator等。TensorFlow是工業(yè)型框架，自成立以來一直是面向部署的應(yīng)用程序的首選框架，TensorFlow

Serving和TensorFlow

Lite可讓用戶輕松地在云、服務(wù)器、移動設(shè)備和

IoT

設(shè)備上進(jìn)行部署。谷歌、英特爾、ARM、GE醫(yī)療、PayPal、推特、聯(lián)想、中國移動、WPS等。PytorchMeta2016.963.6k基于Torch的Python開源機(jī)器學(xué)習(xí)庫，包括分類器模型、計算機(jī)視覺模型、自然語言處理模型（聊天機(jī)器人，文本生成）等。還提供了兩個高級功能：

1.具有強(qiáng)大的GPU加速的張量計算（如Numpy）

2.包含自動求導(dǎo)系統(tǒng)的深度神經(jīng)網(wǎng)絡(luò)

。不僅能夠?qū)崿F(xiàn)強(qiáng)大的GPU加速，同時還支持動態(tài)神經(jīng)網(wǎng)絡(luò)，這一點是現(xiàn)在很多主流框架如TensorFlow都不支持的；簡單易用可以實現(xiàn)快速驗證，因此科研人員更為偏愛，各大期刊發(fā)表論文約80%使用Pytorch。Meta、Amazon、Salesforce、StanfordUniversity等。PaddlePaddle百度2016.819.8k集深度學(xué)習(xí)核心框架、基礎(chǔ)模型庫、端到端開發(fā)套件、工具組件和服務(wù)平臺于一體，包括開發(fā)與訓(xùn)練框架、模型庫、模型預(yù)訓(xùn)練/壓縮工具及部署框架和引擎。源于產(chǎn)業(yè)實踐，始終致力于與產(chǎn)業(yè)深入融合目前飛槳已廣泛應(yīng)用于工業(yè)、農(nóng)業(yè)、服務(wù)業(yè)等，服務(wù)

406萬開發(fā)者。英特爾、英偉達(dá)、浪潮、華為、寒武紀(jì)中國聯(lián)通、中信銀行、中國南方電網(wǎng)、比特大陸、深交所、千千音樂等。32數(shù)據(jù)：機(jī)器學(xué)習(xí)的核心，也是機(jī)器學(xué)習(xí)的瓶頸資料來源：專家調(diào)研，

Appen，Defined.ai，

Mindflow，

PhoenixNAP，EasyAI，國海證券研究所數(shù)據(jù)決定了機(jī)器學(xué)習(xí)算法的性能、泛化能力、應(yīng)用效果；數(shù)據(jù)獲取、標(biāo)注、清洗、存儲也是機(jī)器學(xué)習(xí)瓶頸之一。步驟定義成本占比特點展望數(shù)據(jù)收集通過爬蟲、API接口、數(shù)據(jù)采購等方式，從不同的數(shù)據(jù)源中獲取數(shù)據(jù)，例如文本、圖像、視頻、音頻等。30%主要來源：1）公共數(shù)據(jù)庫（API接口等）；2）企業(yè)自行收集（爬蟲、問卷、訪談等）；3）第三方數(shù)據(jù)供應(yīng)商采購；4）經(jīng)授權(quán)的客戶數(shù)據(jù)；5）平臺模擬生成數(shù)據(jù)隨著AI商用化提速加碼，數(shù)據(jù)反哺，可用數(shù)據(jù)將越來越多，數(shù)據(jù)獲取邊際成本將逐步降低。數(shù)據(jù)標(biāo)注人工或半自動對原始數(shù)據(jù)進(jìn)行標(biāo)注，包括分類、語義分割（圖像背景，物人）、目標(biāo)檢測標(biāo)注（邊界框、關(guān)鍵信息）、序列標(biāo)注（序列數(shù)據(jù)文本音頻中，類別、實體、關(guān)鍵字等）。、40%-50%1）無監(jiān)督學(xué)習(xí)無需數(shù)據(jù)標(biāo)注，部分簡單數(shù)據(jù)，機(jī)器學(xué)習(xí)平臺可自動化標(biāo)注；2）監(jiān)督學(xué)習(xí)仍需標(biāo)注數(shù)據(jù)；3）專業(yè)領(lǐng)域、圖像等復(fù)雜數(shù)據(jù)基本仍需人工標(biāo)注。無監(jiān)督學(xué)習(xí)逐漸流行，自動化程度逐步升高，對于簡單數(shù)據(jù)集標(biāo)注需求下降；但專業(yè)領(lǐng)域和復(fù)雜數(shù)據(jù)集仍需要人工標(biāo)注，且人工單位成本更高；隨著人工智能快速發(fā)展，智能化程度的提升，數(shù)據(jù)標(biāo)注全面自動化也是有可能的。數(shù)據(jù)清洗根據(jù)數(shù)據(jù)類型和需求，進(jìn)行缺失值處理、異常值處理、噪聲處理、重復(fù)數(shù)據(jù)處理、數(shù)據(jù)格式轉(zhuǎn)換等。20%-30%減少錯誤和不準(zhǔn)確數(shù)據(jù)對模型的干擾，提高模型準(zhǔn)確性和可靠性。目前數(shù)據(jù)清洗仍以手動為主，但在某些數(shù)據(jù)較為標(biāo)準(zhǔn)化的場景中（如日志數(shù)據(jù)、網(wǎng)絡(luò)流量分析），一般可以通過編寫自動化的腳本或者使用一些現(xiàn)成的工具來實現(xiàn)，以去除無效或者重復(fù)的數(shù)據(jù)；隨著人工智能快速發(fā)展，智能化程度的提升，數(shù)據(jù)清洗全面自動化也是有可能的。數(shù)據(jù)存儲將機(jī)器學(xué)習(xí)算法需要用到的數(shù)據(jù)保存到磁盤或內(nèi)存中，以便后續(xù)的訓(xùn)練、測試和預(yù)測。數(shù)據(jù)分為訓(xùn)練集（約60%）、驗證集（約20%）、測試集（約20%）；需要選擇合適的數(shù)據(jù)格式存儲，不同格式會影響讀取速度、空間占比等；大規(guī)模數(shù)據(jù)集需要進(jìn)行分割后存儲。需要選擇合適的數(shù)據(jù)格式存儲，不同格式會影響讀取速度、空間占比等；大規(guī)模數(shù)據(jù)集需要進(jìn)行分割后存儲。33算力：隨著模型參數(shù)量的提升，算力需求顯著增加算力消耗每24個月翻倍（摩爾定律）算力消耗每3.4個月翻倍算力消耗每2個月翻倍→GPU計算←Pre-GPU計算大模型的參數(shù)量整體呈上升趨勢訓(xùn)練大模型的算力消耗上升，且增速變快資料來源：量子位，《Intelligent

Computing:

The

Latest

Advances,

Challenges,

and

Future》SHIQIANG

ZHU等，國海證券研究所34AIGC：生產(chǎn)力的革命資料來源：量子位，

wuhu動畫人空間，數(shù)據(jù)派THU，F(xiàn)orbes，《Generative

Adversarial

Networks》Goodfellow等，《UsingPre-Training

CanImprove

Model

Robustness

and

Uncertainty》Hendrycks等，《Diffusion

Models

Beat

GANs

on

Image

Synthesis》Dhariwal等，國海證券研究所算法應(yīng)用文本生成圖像生成音頻生成類型 任務(wù)視頻生成代碼生成交互文本：閑聊機(jī)器人、文本交互游戲；非交互文本：結(jié)構(gòu)化/非結(jié)構(gòu)化、輔助性寫作。GLIDE、DiscoDiffusion、

Big

Sleep、StarryAl、VOMBO