




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
DeepSeek每個(gè)人都可以讀懂的大模型科普?qǐng)?bào)告(企業(yè)篇)DeepSeek大模型及其企業(yè)應(yīng)用實(shí)踐目錄1.
大模型:人工智能的前沿大模型產(chǎn)品大模型的行業(yè)應(yīng)用企業(yè)大模型落地方案智能體的企業(yè)應(yīng)用廠商提供的企業(yè)級(jí)大模型服務(wù)大模型典型應(yīng)用案例AIGC與企業(yè)應(yīng)用實(shí)踐大模型未來發(fā)展趨勢(shì)廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊(duì)作品1.大模型:人工智能的前沿大模型的概念大模型的發(fā)展歷程人工智能與大模型的關(guān)系大模型分類1.1
大模型的概念大模型通常指的是大規(guī)模的人工智能模型,是一種基于深度學(xué)習(xí)技術(shù),具有海量參數(shù)、強(qiáng)大的學(xué)習(xí)能力和泛化能力,能夠處理和生成多種類型數(shù)據(jù)的人工智能模型。通常說的大模型的“大”的特點(diǎn)體現(xiàn)在:參數(shù)數(shù)量龐大 訓(xùn)練數(shù)據(jù)量大 計(jì)算資源需求高2020年,OpenAI公司推出了GPT-3,模型參數(shù)規(guī)模達(dá)到了1750億。2023年3月發(fā)布的GPT-4的參數(shù)規(guī)模是GPT-3的10倍以上,達(dá)到1.8萬億,2021年11月阿里推出的M6
模型的參數(shù)量達(dá)10萬億。1.1
大模型的概念大模型的設(shè)計(jì)和訓(xùn)練旨在提供更強(qiáng)大、更準(zhǔn)確的模型性能,以應(yīng)對(duì)更復(fù)雜、更龐大的數(shù)據(jù)集或任務(wù)。大模型通常能夠?qū)W習(xí)到更細(xì)微的模式和規(guī)律,具有更強(qiáng)的泛化能力和表達(dá)能力大模型具有更強(qiáng)的上下文理解能力,能夠理解更復(fù)雜的語意和語境。這使得它們能夠產(chǎn)生更準(zhǔn)確、更連貫的回答上下文理解能力大模型可以從大量的數(shù)據(jù)中學(xué)習(xí),并利用學(xué)到的知識(shí)和模式來提供更精準(zhǔn)的答案和預(yù)測(cè)。這使得它們?cè)诮鉀Q復(fù)雜問題和應(yīng)對(duì)新的場(chǎng)景時(shí)表現(xiàn)更加出色學(xué)習(xí)能力強(qiáng)大模型可以生成更自然、更流利的語言,減少了生成輸出時(shí)呈現(xiàn)的錯(cuò)誤或令人困惑的問題語言生成能力學(xué)習(xí)到的知識(shí)和能力可以在不同的任務(wù)和領(lǐng)域中遷移和應(yīng)用。這意味著一次訓(xùn)練就可以將模型應(yīng)用于多種任務(wù),無需重新訓(xùn)練可遷移性高1.2
大模型的發(fā)展歷程大模型發(fā)展歷經(jīng)三個(gè)階段,分別是萌芽期、沉淀期和爆發(fā)期1.2
大模型的發(fā)展歷程1.2
大模型的發(fā)展歷程大模型發(fā)展對(duì)算力的需求演變1.3
人工智能與大模型的關(guān)系人工智能包含了機(jī)器學(xué)習(xí),機(jī)器學(xué)習(xí)包含了深度學(xué)習(xí),深度學(xué)習(xí)可以采用不同的模型,其中一種模型是預(yù)訓(xùn)練模型,預(yù)訓(xùn)練模型包含了預(yù)訓(xùn)練大模型(可以簡(jiǎn)稱為“大模型”),預(yù)訓(xùn)練大模型包含了預(yù)訓(xùn)練大語言模型(可以簡(jiǎn)稱為“大語言模型”),預(yù)訓(xùn)練大語言模型的典型代表包括OpenAI的GPT和百度的文心ERNIE,ChatGPT是基于GPT開發(fā)的大模型產(chǎn)品,文心一言是基于文心ERNIE開發(fā)的大模型產(chǎn)品人工智能機(jī)器學(xué)習(xí)深度學(xué)習(xí)深度學(xué)習(xí)模型預(yù)訓(xùn)練模型預(yù)訓(xùn)練大模型深預(yù)度訓(xùn)學(xué)練習(xí)大語言模型預(yù)訓(xùn)練大語言模型GPT文心ERNIE...ChatGPT文心一言1.4
大模型的分類語言大模型視覺大模型多模態(tài)大模型是指在自然語言處理(
N
a
t
u
r
a
l
L
a
n
g
u
a
g
eProcessing,NLP)領(lǐng)域中的一類大模型,通常用于處理文本數(shù)據(jù)和理解自然語言。這類大模型的主要特點(diǎn)是它們?cè)诖笠?guī)模語料庫上進(jìn)行了訓(xùn)練,以學(xué)習(xí)自然語言的各種語法、語義和語境規(guī)則。代表性產(chǎn)品包括GPT系列(
Open
AI)、Bard(Google)、DeepSeek、文心一言(百度)等是指在計(jì)算機(jī)視覺(ComputerVision,CV)領(lǐng)域中使用的大模型,通常用于圖像處理和分析。這類模型通過在大規(guī)模圖像數(shù)據(jù)上進(jìn)行訓(xùn)練,可以實(shí)現(xiàn)各種視覺任務(wù),如圖像分類、目標(biāo)檢測(cè)、圖像分割、姿態(tài)估計(jì)、人臉識(shí)別等。代表性產(chǎn)品包括VIT系列(Google)、文心UFO、華為盤古CV、INTERN(商湯)等是指能夠處理多種不同類型數(shù)據(jù)的大模型,例如文本、圖像、音頻等多模態(tài)數(shù)據(jù)。這類模型結(jié)合了NLP和CV的能力,以實(shí)現(xiàn)對(duì)多模態(tài)信息的綜合理解和分析,從而能夠更全面地理解和處理復(fù)雜的數(shù)據(jù)。代表性產(chǎn)品包括DingoDB多模向量數(shù)據(jù)庫(九章云極DataCanvas)、DALL-E(OpenAI)、悟空畫畫(華為)、midjourney等1.4
大模型的分類按照應(yīng)用領(lǐng)域的不同,大模型主要可以分為L(zhǎng)0、L1、L2三個(gè)層級(jí)是指可以在多個(gè)領(lǐng)域和任務(wù)上通用的大模型。它們利用大算力、使用海量的開放數(shù)據(jù)與具有巨量參數(shù)的深度學(xué)習(xí)算法,在大規(guī)模無標(biāo)注數(shù)據(jù)上進(jìn)行訓(xùn)練,以尋找特征并發(fā)現(xiàn)規(guī)律,進(jìn)而形成可“舉一反三”的強(qiáng)大泛化能力,可在不進(jìn)行微調(diào)或少量微調(diào)的情況下完成多場(chǎng)景任務(wù),相當(dāng)于AI完成了“通識(shí)教育”通用大模型L0是指那些針對(duì)特定行業(yè)或領(lǐng)域的大模型。它們通常使用行業(yè)相關(guān)的數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練或微調(diào),以提高在該領(lǐng)域的性能和準(zhǔn)確度,相當(dāng)于AI成為“行業(yè)專家”行業(yè)大模型L1是指那些針對(duì)特定任務(wù)或場(chǎng)景的大模型。它們通常使用任務(wù)相關(guān)的數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練或微調(diào),以提高在該任務(wù)上的性能和效果垂直大模型L21.4
大模型的分類大語言模型可以分為通用大模型和推理大模型推理大模型推理大模型的概念大規(guī)模傳播應(yīng)該開始于2
0
2
4
年9
月份。
2
0
2
4
年9
月1
2
日,OpenAI官方宣布了OpenAIo1推理大模型。OpenAI定義推理模型在OpenAI的官網(wǎng)上,OpenAI定義推理模型是在回答之前進(jìn)行思考,并在回復(fù)用戶之前,在內(nèi)部生成一長(zhǎng)串的思維鏈過程。思維鏈?zhǔn)且环N提示大語言模型進(jìn)行逐步推理的方法。它讓模型在得出最終答案之前,先顯式地寫出推理的中間步驟。這就像人類解決復(fù)雜問題時(shí)會(huì)先把思考過程寫下來一樣。推理模型的核心也就是說,如果模型在回復(fù)你之前有一長(zhǎng)串的思考過程(這個(gè)過程必須可以顯示輸出),探索了很多不同的路徑之后給出答案,那么有這個(gè)能力的大模型就是推理大模型。推理模型的核心在于處理那些需要多步驟邏輯推導(dǎo)才能解決的復(fù)雜問題。1.4
大模型的分類推理大模型DeepSeek
R1的對(duì)話效果1.4
大模型的分類Sebastian
Raschka博士(LightningAI的首席教育學(xué)家):將“推理”定義為通過生成中間步驟來回答復(fù)雜問題的過程2個(gè)簡(jiǎn)單的例子:非推理問題:”
法國(guó)的首都是哪里?”(
答案直接、無需推導(dǎo))推理問題:”一列火車以每小時(shí)60英里的速度行駛3小時(shí),行駛距離是多少?”(需先理解”距離=速度×?xí)r間”的關(guān)系,再分步計(jì)算)通用的大語言模型(LLM)可能直接輸出簡(jiǎn)短答案(如”180英里”)推理模型的特點(diǎn)在于顯式展示中間推導(dǎo)過程1.4
大模型的分類在應(yīng)用方面二者各有擅長(zhǎng)的領(lǐng)域,而不是簡(jiǎn)單的誰強(qiáng)誰弱問題如果你需要完成數(shù)據(jù)分析、邏輯推理、代碼生成等邏輯性較強(qiáng)且較為復(fù)雜的任務(wù),請(qǐng)選擇推理大模型如果你面臨創(chuàng)意寫作、文本生成、意圖識(shí)別等發(fā)散性較強(qiáng)且較為創(chuàng)意多樣的任務(wù),請(qǐng)選擇通用大模型特性推理大模型通用大模型適用場(chǎng)景復(fù)雜推理、解謎、數(shù)學(xué)、編碼難題文本生成、翻譯、摘要、基礎(chǔ)知識(shí)問答復(fù)雜問題解決能力優(yōu)秀,能進(jìn)行深度思考和邏輯推理一般,難以處理多步驟的復(fù)雜問題運(yùn)算效率較低,推理時(shí)間較長(zhǎng),資源消耗大較高,響應(yīng)速度快,資源消耗相對(duì)較小幻覺風(fēng)險(xiǎn)較高,可能出現(xiàn)“過度思考”導(dǎo)致的錯(cuò)誤答案較低,更依賴于已知的知識(shí)和模式泛化能力更強(qiáng),能更好地適應(yīng)新問題和未知場(chǎng)景相對(duì)較弱,更依賴于訓(xùn)練數(shù)據(jù)擅長(zhǎng)任務(wù)舉例成本解決復(fù)雜邏輯謎題,編寫復(fù)雜算法,數(shù)學(xué)證明通常更高撰寫新聞稿,翻譯文章,生成產(chǎn)品描述,回答常識(shí)問題通常更低2.
大模型產(chǎn)品國(guó)外的大模型產(chǎn)品國(guó)內(nèi)的大模型產(chǎn)品主流大模型“幻覺”評(píng)測(cè)廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊(duì)作品2.1
國(guó)外的大模型產(chǎn)品ChatGPTChatGPT是一種由OpenAI訓(xùn)練的大語言模型。它是基于Transformer架構(gòu),經(jīng)過大量文本數(shù)據(jù)訓(xùn)練而成,能夠生成自然、流暢的語言,并具備回答問題、生成文本、語言翻譯等多種功能ChatGPT的應(yīng)用范圍廣泛,可以用于客服、問答系統(tǒng)、對(duì)話生成、文本生成等領(lǐng)域。它能夠理解人類語言,并能夠回答各種問題,提供相關(guān)的知識(shí)和信息。與其他聊天機(jī)器人相比,ChatGPT具備更強(qiáng)的語言理解和生成能力,能夠更自然地與人類交流,并且能夠更好地適應(yīng)不同的領(lǐng)域和場(chǎng)景。ChatGPT的訓(xùn)練數(shù)據(jù)來自互聯(lián)網(wǎng)上的大量文本,因此,它能夠涵蓋多種語言風(fēng)格和文化背景2.1
國(guó)外的大模型產(chǎn)品GeminiGemini是谷歌發(fā)布的大模型,它能夠同時(shí)處理多種類型的數(shù)據(jù)和任務(wù),覆蓋文本、圖像、音頻、視頻等多個(gè)領(lǐng)域。Gemini采用了全新的架構(gòu),將多模態(tài)編碼器和多模態(tài)解碼器兩個(gè)主要組件結(jié)合在一起,以提供最佳結(jié)果Gemini包括三種不同規(guī)模的模型:Gemini
Ultra、Gemini
Pro和Gemini
Nano,適用于不同任務(wù)和設(shè)備。2023年12月6日,Gemini的初始版本已在Bard中提供,開發(fā)人員版本可通過Google
Cloud的API獲得。Gemini可以應(yīng)用于Bard和Pixel8Pro智能手機(jī)。Gemini的應(yīng)用范圍廣泛,包括問題回答、摘要生成、翻譯、字幕生成、情感分析等任務(wù)。然而,由于其復(fù)雜性和黑箱性質(zhì),Gemini的可解釋性仍然是一個(gè)挑戰(zhàn)2.1
國(guó)外的大模型產(chǎn)品Sora2024年2月16日,OpenAI再次震撼全球科技界,發(fā)布了名為Sora的文本生成視頻大模型,只需輸入文本就能自動(dòng)生成視頻。這一技術(shù)的誕生,不僅標(biāo)志著人工智能在視頻生成領(lǐng)域的重大突破,更引發(fā)了關(guān)于人工智能發(fā)展對(duì)人類未來影響的深刻思考。隨著Sora的發(fā)布,人工智能似乎正式踏入了通用人工智能(AGI:Artificial
General
Intelligence)的時(shí)代。AGI是指能夠像人類一樣進(jìn)行各種智能活動(dòng)的機(jī)器智能,包括理解語言、識(shí)別圖像、進(jìn)行復(fù)雜推理等。Sora大模型能夠直接輸出長(zhǎng)達(dá)60秒的視頻,并且視頻中包含了高度細(xì)致的背景、復(fù)雜的多角度鏡頭,以及富有情感的多個(gè)角色。這種能力已經(jīng)超越了簡(jiǎn)單的圖像或文本生成,開始觸及到視頻這一更加復(fù)雜和動(dòng)態(tài)的媒介。這意味著人工智能不僅在處理靜態(tài)信息上越來越強(qiáng)大,而且在動(dòng)態(tài)內(nèi)容的創(chuàng)造上也展現(xiàn)出了驚人的潛力2.1
國(guó)外的大模型產(chǎn)品Sora右圖是Sora根據(jù)文本自動(dòng)生成的視頻畫面,一位戴著墨鏡、穿著皮衣的時(shí)尚女子走在雨后夜晚的東京市區(qū)街道上,抹了鮮艷唇彩的唇角微微翹起,即便帶著墨鏡也能看到她的微笑,地面的積水映出了她的身影和燈紅酒綠的霓虹燈,熱鬧非凡的唐人街正在進(jìn)行舞龍表演,熙熙攘攘的人群目光都聚焦在躍動(dòng)的彩龍身上,整個(gè)環(huán)境的喜慶氛圍仿佛令人身臨其境2.1
國(guó)外的大模型產(chǎn)品OpenAI
o32024年12月20日,OpenAI發(fā)布推理模型o3,無論在軟件工程、編寫代碼,還是競(jìng)賽數(shù)學(xué)、掌握人類博士級(jí)別的自然科學(xué)知識(shí)能力方面,o3都達(dá)到了很高的水平2.2
國(guó)內(nèi)的大模型產(chǎn)品大模型圖標(biāo)指標(biāo)排名DeepSeek能力測(cè)評(píng)第一豆包用戶數(shù)量第一Kimi文本處理第一即夢(mèng)AI作圖能力第一通義萬相視頻生成第一智譜清言文檔歸納第一2025年1月國(guó)內(nèi)大模型排行榜2.2
國(guó)內(nèi)的大模型產(chǎn)品DeepSeek(深度求索)2024年12月26日,杭州一家名為“深度求索”(DeepSeek)的中國(guó)初創(chuàng)公司,發(fā)布了全新一代大模型DeepSeek-V3。在多個(gè)基準(zhǔn)測(cè)試中,DeepSeek-V3的性能均超越了其他開源模型,甚至與頂尖的閉源大模型GPT-4o不相上下,尤其在數(shù)學(xué)推理上,DeepSeek-V3更是遙遙領(lǐng)先。DeepSeek-V3以多項(xiàng)開創(chuàng)性技術(shù),大幅提升了模型的性能和訓(xùn)練效率。DeepSeek-V3在性能比肩GPT-4o的同時(shí),研發(fā)卻只花了558萬美元,訓(xùn)練成本不到后者的二十分之一。因?yàn)楸憩F(xiàn)太過優(yōu)越,DeepSeek在硅谷被譽(yù)為“來自東方的神秘力量”。2025年1月20日,DeepSeek-R1正式發(fā)布,擁有卓越的性能,在數(shù)學(xué)、代碼和推理任務(wù)上可與OpenAIo1媲美。DeepSeek創(chuàng)始人 梁文峰2.2
國(guó)內(nèi)的大模型產(chǎn)品通義千問通義千問是阿里云推出的一個(gè)超大規(guī)模的語言模型,它具備多輪對(duì)話、文案創(chuàng)作、邏輯推理、多模態(tài)理解、多語言支持的能力。通義千問這個(gè)名字有“通義”和“千問”兩層含義,“通義”表示這個(gè)模型能夠理解各種語言的含義,“千問”則表示這個(gè)模型能夠回答各種問題。通義千問基于深度學(xué)習(xí)技術(shù),通過對(duì)大量文本數(shù)據(jù)進(jìn)行訓(xùn)練,從而具備了強(qiáng)大的語言理解和生成能力。它能夠理解自然語言,并能夠生成自然語言文本字節(jié)跳動(dòng)豆包豆包是字節(jié)跳動(dòng)基于云雀模型開發(fā)的
AI,能理解你的需求并生成高質(zhì)量回應(yīng)。它知識(shí)儲(chǔ)備豐富,涵蓋歷史、科學(xué)、技術(shù)等眾多領(lǐng)域,無論是日常問題咨詢,還是深入學(xué)術(shù)探討,都能提供準(zhǔn)確全面的信息。同時(shí),具備出色的文本創(chuàng)作能力,能撰寫故事、詩歌、文案等各類體裁。并且擅長(zhǎng)語言交互,交流自然流暢,就像身邊的知心伙伴,耐心傾聽并給予恰當(dāng)反饋。2.2
國(guó)內(nèi)的大模型產(chǎn)品文心一言文心一言是由百度研發(fā)的知識(shí)增強(qiáng)大模型,能夠與人對(duì)話互動(dòng)、回答問題、協(xié)助創(chuàng)作,高效便捷地幫助人們獲取信息、知識(shí)和靈感文心一言基于飛槳深度學(xué)習(xí)平臺(tái)和文心知識(shí)增強(qiáng)大模型,持續(xù)從海量數(shù)據(jù)和大規(guī)模知識(shí)中融合學(xué)習(xí),具備知識(shí)增強(qiáng)、檢索增強(qiáng)和對(duì)話增強(qiáng)的技術(shù)特色。文心一言具有廣泛的應(yīng)用場(chǎng)景,例如智能客服、智能家居、移動(dòng)應(yīng)用等領(lǐng)域。它可以與用戶進(jìn)行自然語言交互,幫助用戶解決各種問題,提供相關(guān)的知識(shí)和信息KimiKimi是月之暗面科技
2023
年推出的
AI
助手,可處理
200
萬字超長(zhǎng)文本,支持多格式文件解讀、互聯(lián)網(wǎng)信息搜索整合、多語言對(duì)話等,能用于辦公、學(xué)習(xí)、創(chuàng)作等場(chǎng)景,有網(wǎng)頁版、APP、微信小程序等使用方式。2.3
主流大模型“幻覺”評(píng)測(cè)大模型幻覺,也被稱為
AI
幻覺,是指大型語言模型在生成內(nèi)容時(shí),產(chǎn)生與事實(shí)不符、邏輯錯(cuò)誤或無中生有等不合理信息的現(xiàn)象。比如在回答歷史事件時(shí),可能會(huì)編造不存在的細(xì)節(jié)或人物;在進(jìn)行科學(xué)知識(shí)講解時(shí),給出錯(cuò)誤的理論或數(shù)據(jù)。其產(chǎn)生原因主要包括:模型訓(xùn)練數(shù)據(jù)存在偏差、不完整或錯(cuò)誤,導(dǎo)致在學(xué)習(xí)過程中引入了不準(zhǔn)確的信息;模型基于概率分布生成內(nèi)容,在某些情況下會(huì)選擇一些看似合理但實(shí)際錯(cuò)誤的路徑。大模型幻覺會(huì)影響信息的準(zhǔn)確性和可靠性,在信息傳播、學(xué)術(shù)研究等領(lǐng)域可能帶來不良影響。因此,在使用大模型時(shí),需要對(duì)其輸出內(nèi)容進(jìn)行仔細(xì)驗(yàn)證和甄別。大模型的行業(yè)應(yīng)用大模型的行業(yè)應(yīng)用領(lǐng)域DeepSeek大模型的應(yīng)用場(chǎng)景大模型與其他技術(shù)在企業(yè)中的融合應(yīng)用廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊(duì)作品3.1
大模型的行業(yè)應(yīng)用領(lǐng)域大模型的應(yīng)用領(lǐng)域非常廣泛,涵蓋了自然語言處理、計(jì)算機(jī)視覺、語音識(shí)別、推薦系統(tǒng)、醫(yī)療健康、金融風(fēng)控、工業(yè)制造、生物信息學(xué)、自動(dòng)駕駛、氣候研究等多個(gè)領(lǐng)域(1)自然語言處理大模型在自然語言處理領(lǐng)域具有重要的應(yīng)用,可以用于文本生成(如文章、小說、新聞等的創(chuàng)作)、翻譯系統(tǒng)(能夠?qū)崿F(xiàn)高質(zhì)量的跨語言翻譯)、問答系統(tǒng)(能夠回答用戶提出的問題)、情感分析(用于判斷文本中的情感傾向)、語言生成(如聊天機(jī)器人)等(2)計(jì)算機(jī)視覺大模型在計(jì)算機(jī)視覺領(lǐng)域也有廣泛應(yīng)用,可以用于圖像分類(識(shí)別圖像中的物體和場(chǎng)景)、目標(biāo)檢測(cè)(能夠定位并識(shí)別圖像中的特定物體)、圖像生成(如風(fēng)格遷移、圖像超分辨率增強(qiáng))、人臉識(shí)別(用于安全驗(yàn)證和身份識(shí)別)、醫(yī)學(xué)影像分析(輔助醫(yī)生診斷疾病)等3.1
大模型的行業(yè)應(yīng)用領(lǐng)域(3)語音識(shí)別大模型在語音識(shí)別領(lǐng)域也有應(yīng)用,如語音識(shí)別、語音合成等。通過學(xué)習(xí)大量的語音數(shù)據(jù),大模型可以實(shí)現(xiàn)高質(zhì)量的跨語言翻譯和語音識(shí)別以及生成自然語音(4)推薦系統(tǒng)大模型可以用于個(gè)性化推薦、廣告推薦等任務(wù)。通過分析用戶的歷史行為和興趣偏好,大模型可以為用戶提供個(gè)性化的推薦服務(wù),提高用戶滿意度和轉(zhuǎn)化率3.1
大模型的行業(yè)應(yīng)用領(lǐng)域大模型可以用于自動(dòng)駕駛中的感知、決策等任務(wù)。通過學(xué)習(xí)大量的駕駛數(shù)據(jù),大模型可以實(shí)現(xiàn)對(duì)車輛周圍環(huán)境的感知和識(shí)別,以及進(jìn)行決策和控制,提高自動(dòng)駕駛的安全性和效率自動(dòng)駕駛大模型可以用于醫(yī)療影像診斷、疾病預(yù)測(cè)等任務(wù)。通過學(xué)習(xí)大量的醫(yī)學(xué)影像數(shù)據(jù),大模型可以輔助醫(yī)生進(jìn)行疾病診斷和治療方案制定,提高醫(yī)療水平和效率醫(yī)療健康大模型可以用于信用評(píng)估、欺詐檢測(cè)等任務(wù)。通過分析大量的金融數(shù)據(jù),大模型可以評(píng)估用戶的信用等級(jí)和風(fēng)險(xiǎn)水平,以及檢測(cè)欺詐行為,提高金融系統(tǒng)的安全性和穩(wěn)定性金融風(fēng)控3.1
大模型的行業(yè)應(yīng)用領(lǐng)域工業(yè)制造大模型可以用于質(zhì)量控制、故障診斷等任務(wù)。通過學(xué)習(xí)大量的工業(yè)制造數(shù)據(jù),大模型可以輔助工程師進(jìn)行產(chǎn)品質(zhì)量控制和故障診斷,提高生產(chǎn)效率和產(chǎn)品質(zhì)量氣候研究在氣候研究領(lǐng)域,大模型可以處理氣象數(shù)據(jù),進(jìn)行天氣預(yù)測(cè)和氣候模擬。它們能夠分析復(fù)雜的氣象現(xiàn)象,提供準(zhǔn)確的氣象預(yù)報(bào),幫助人們做出應(yīng)對(duì)氣候變化的決策生物信息學(xué)在生物信息學(xué)領(lǐng)域,大模型可以用于基因序列分析(識(shí)別基因中的功能元件和變異位點(diǎn))、蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)(推測(cè)蛋白質(zhì)的二級(jí)和三級(jí)結(jié)構(gòu))、藥物研發(fā)(預(yù)測(cè)分子與靶點(diǎn)的相互作用)等3.1
大模型的行業(yè)應(yīng)用領(lǐng)域?qū)嵗喊俣却竽P蛻?yīng)用3.2
DeepSeek大模型的應(yīng)用場(chǎng)景3.2
DeepSeek大模型的應(yīng)用場(chǎng)景客戶服務(wù)與支持(高頻應(yīng)用)自動(dòng)回復(fù)客戶咨詢:電商平臺(tái)使用DeepSeek自動(dòng)回答客戶關(guān)于訂單狀態(tài)、退貨政策等問題自動(dòng)處理訂單:外賣平臺(tái)使用DeepSeek自動(dòng)處理用戶訂單和配送請(qǐng)求自動(dòng)處理投訴:電信公司使用DeepSeek自動(dòng)處理客戶關(guān)于網(wǎng)絡(luò)和賬單的投訴情感支持:心理健康應(yīng)用使用DeepSeek為用戶提供情感支持和心理輔導(dǎo)客戶反饋分析:企業(yè)使用DeepSeek分析客戶反饋,改進(jìn)產(chǎn)品和服務(wù)多渠道客服支持:企業(yè)使用DeepSeek在網(wǎng)站、社交媒體和郵件等多個(gè)渠道提供客服支持自動(dòng)處理退款:電商平臺(tái)使用DeepSeek自動(dòng)處理用戶退款請(qǐng)求自動(dòng)處理咨詢:銀行使用DeepSeek自動(dòng)處理客戶關(guān)于賬戶和貸款的咨詢智能語音客服:呼叫中心使用DeepSeek提供語音客服服務(wù),減少人工客服壓力實(shí)時(shí)聊天支持:網(wǎng)站使用DeepSeek提供實(shí)時(shí)聊天支持,提升客戶滿意自對(duì)網(wǎng)絡(luò)資料的整理3.2
DeepSeek大模型的應(yīng)用場(chǎng)景個(gè)性化推薦(高頻應(yīng)用)個(gè)性化購(gòu)物推薦:電商平臺(tái)使用DeepSeek根據(jù)用戶購(gòu)買歷史推薦商品個(gè)性化電影推薦:流媒體平臺(tái)使用DeepSeek根據(jù)用戶觀看歷史推薦電影個(gè)性化視頻推薦:視頻平臺(tái)使用DeepSeek根據(jù)用戶觀看歷史推薦視頻個(gè)性化旅游推薦:旅游平臺(tái)使用DeepSeek根據(jù)用戶偏好推薦旅游目的地和行程個(gè)性化內(nèi)容推薦:內(nèi)容平臺(tái)使用DeepSeek根據(jù)用戶興趣推薦文章和博客個(gè)性化音樂推薦:音樂平臺(tái)使用DeepSeek根據(jù)用戶聽歌歷史推薦音樂個(gè)性化書籍推薦:圖書平臺(tái)使用DeepSeek根據(jù)用戶閱讀歷史推薦書籍個(gè)性化新聞推薦:新聞應(yīng)用使用DeepSeek根據(jù)用戶閱讀歷史推薦新聞個(gè)性化學(xué)習(xí)推薦:在線教育平臺(tái)使用DeepSeek根據(jù)學(xué)生的學(xué)習(xí)進(jìn)度推薦課程個(gè)性化廣告推薦:廣告平臺(tái)使用DeepSeek根據(jù)用戶行為推薦個(gè)性化廣告來自對(duì)網(wǎng)絡(luò)資料的整理3.2
DeepSeek大模型的應(yīng)用場(chǎng)景教育與培訓(xùn)(中頻應(yīng)用)在線輔導(dǎo)學(xué)生:教育平臺(tái)利用DeepSeek為學(xué)生提供數(shù)學(xué)、科學(xué)等科目的實(shí)時(shí)輔導(dǎo)自動(dòng)批改作業(yè):學(xué)校使用DeepSeek自動(dòng)批改學(xué)生作業(yè),節(jié)省教師時(shí)間個(gè)性化學(xué)習(xí)路徑:在線教育平臺(tái)使用DeepSeek為學(xué)生制定個(gè)性化學(xué)習(xí)路徑語言學(xué)習(xí)助手:語言學(xué)習(xí)應(yīng)用使用DeepSeek提供實(shí)時(shí)翻譯和發(fā)音糾正虛擬實(shí)驗(yàn)室:教育機(jī)構(gòu)使用DeepSeek創(chuàng)建虛擬實(shí)驗(yàn)室,幫助學(xué)生進(jìn)行科學(xué)實(shí)驗(yàn)智能題庫管理:教育平臺(tái)使用DeepSeek管理題庫,自動(dòng)生成試卷學(xué)習(xí)進(jìn)度跟蹤:在線教育平臺(tái)使用DeepSeek跟蹤學(xué)生學(xué)習(xí)進(jìn)度,提供反饋虛擬導(dǎo)師:教育機(jī)構(gòu)使用DeepSeek提供虛擬導(dǎo)師服務(wù),幫助學(xué)生解答問題職業(yè)培訓(xùn):企業(yè)使用DeepSeek為員工提供職業(yè)培訓(xùn)課程在線考試監(jiān)控:教育機(jī)構(gòu)使用DeepSeek監(jiān)控在線考試,防止作弊來自對(duì)網(wǎng)絡(luò)資料的整理3.2
DeepSeek大模型的應(yīng)用場(chǎng)景醫(yī)療與健康(中頻應(yīng)用)初步醫(yī)療建議:健康應(yīng)用集成DeepSeek,為用戶提供癥狀分析和就醫(yī)建議藥物提醒:健康應(yīng)用使用DeepSeek提醒用戶按時(shí)服藥醫(yī)療數(shù)據(jù)分析:醫(yī)院使用DeepSeek分析患者數(shù)據(jù),提供個(gè)性化治療方案疾病預(yù)測(cè):健康應(yīng)用使用DeepSeek分析用戶健康數(shù)據(jù),預(yù)測(cè)疾病風(fēng)險(xiǎn)智能診斷:醫(yī)療平臺(tái)使用DeepSeek輔助醫(yī)生進(jìn)行疾病診斷健康監(jiān)測(cè):智能穿戴設(shè)備使用DeepSeek監(jiān)測(cè)用戶健康數(shù)據(jù),提供健康建議心理健康支持:心理健康應(yīng)用使用DeepSeek為用戶提供心理輔導(dǎo)和支持遠(yuǎn)程醫(yī)療咨詢:醫(yī)療平臺(tái)使用DeepSeek提供遠(yuǎn)程醫(yī)療咨詢服務(wù)醫(yī)療知識(shí)庫:醫(yī)院使用DeepSeek構(gòu)建醫(yī)療知識(shí)庫,方便醫(yī)生查詢信息健康管理:健康應(yīng)用使用DeepSeek幫助用戶管理健康數(shù)據(jù),制定健康計(jì)自對(duì)網(wǎng)絡(luò)資料的整理3.2
DeepSeek大模型的應(yīng)用場(chǎng)景金融與投資(中頻應(yīng)用)市場(chǎng)趨勢(shì)分析:投資平臺(tái)利用DeepSeek分析股票市場(chǎng)數(shù)據(jù),提供投資建議智能投顧:投資平臺(tái)使用DeepSeek為客戶提供智能投資顧問服務(wù)財(cái)務(wù)規(guī)劃:金融應(yīng)用使用DeepSeek幫助用戶制定財(cái)務(wù)規(guī)劃客戶信用評(píng)分:銀行使用DeepSeek評(píng)估客戶信用評(píng)分,提供個(gè)性化金融服務(wù)智能客服:銀行使用DeepSeek提供智能客服服務(wù),解答客戶問題風(fēng)險(xiǎn)評(píng)估:銀行使用DeepSeek評(píng)估客戶信用風(fēng)險(xiǎn),提供貸款建議欺詐檢測(cè):銀行使用DeepSeek檢測(cè)交易中的欺詐行為自動(dòng)交易:投資平臺(tái)使用DeepSeek進(jìn)行自動(dòng)化交易金融數(shù)據(jù)分析:金融公司使用DeepSeek分析市場(chǎng)數(shù)據(jù),提供投資建議財(cái)務(wù)報(bào)告生成:金融公司使用DeepSeek自動(dòng)生成財(cái)務(wù)報(bào)告來自對(duì)網(wǎng)絡(luò)資料的整理3.2
DeepSeek大模型的應(yīng)用場(chǎng)景內(nèi)容創(chuàng)作與媒體(中頻應(yīng)用)自動(dòng)生成文章:內(nèi)容營(yíng)銷公司使用DeepSeek自動(dòng)生成高質(zhì)量的文章和博客內(nèi)容視頻內(nèi)容生成:視頻平臺(tái)使用DeepSeek自動(dòng)生成視頻內(nèi)容內(nèi)容審核:社交媒體平臺(tái)使用DeepSeek自動(dòng)審核用戶發(fā)布的內(nèi)容內(nèi)容推薦:內(nèi)容平臺(tái)使用DeepSeek根據(jù)用戶興趣推薦文章和視頻圖像識(shí)別:社交媒體平臺(tái)使用DeepSeek自動(dòng)識(shí)別和標(biāo)記照片中的物體和人臉新聞?wù)桑盒侣剳?yīng)用使用DeepSeek自動(dòng)生成新聞?wù)?,方便用戶快速了解新聞社交媒體管理:企業(yè)使用DeepSeek管理社交媒體內(nèi)容,自動(dòng)發(fā)布和回復(fù)智能寫作助手:作家使用DeepSeek輔助寫作,提供靈感和建議語音轉(zhuǎn)文字:媒體公司使用DeepSeek將采訪錄音轉(zhuǎn)換為文字稿內(nèi)容翻譯:媒體公司使用DeepSeek將內(nèi)容翻譯成多種語自對(duì)網(wǎng)絡(luò)資料的整理3.2
DeepSeek大模型的應(yīng)用場(chǎng)景智能家居與物聯(lián)網(wǎng)(低頻應(yīng)用)智能家居控制:智能家居系統(tǒng)使用DeepSeek語音控制燈光、溫度等設(shè)備家庭安全監(jiān)控:智能家居系統(tǒng)使用DeepSeek監(jiān)控家庭安全,提供警報(bào)智能家電管理:智能家居系統(tǒng)使用DeepSeek管理家電,優(yōu)化能源使用語音助手:智能音箱使用DeepSeek語音助手控制家居設(shè)備家庭健康監(jiān)測(cè):智能家居系統(tǒng)使用DeepSeek監(jiān)測(cè)家庭成員健康數(shù)據(jù)智能照明:智能家居系統(tǒng)使用DeepSeek根據(jù)環(huán)境光線自動(dòng)調(diào)節(jié)照明智能溫控:智能家居系統(tǒng)使用DeepSeek根據(jù)用戶習(xí)慣自動(dòng)調(diào)節(jié)溫度智能安防:智能家居系統(tǒng)使用DeepSeek提供智能安防服務(wù),監(jiān)控家庭安全智能家電控制:智能家居系統(tǒng)使用DeepSeek控制家電,如洗衣機(jī)、冰箱等家庭娛樂管理:智能家居系統(tǒng)使用DeepSeek管理家庭娛樂設(shè)備,如電視、音響等來自對(duì)網(wǎng)絡(luò)資料的整理3.2
DeepSeek大模型的應(yīng)用場(chǎng)景法律與合規(guī)(低頻應(yīng)用)合同審查:法律服務(wù)平臺(tái)使用DeepSeek為用戶提供合同審查服務(wù)合規(guī)檢查:企業(yè)使用DeepSeek檢查業(yè)務(wù)流程是否符合法律法規(guī)案件分析:律師事務(wù)所使用DeepSeek分析案件數(shù)據(jù),提供法律建議法律風(fēng)險(xiǎn)評(píng)估:企業(yè)使用DeepSeek評(píng)估法律風(fēng)險(xiǎn),提供合規(guī)建議法律案例檢索:律師事務(wù)所使用DeepSeek檢索相關(guān)法律案例法律咨詢:法律服務(wù)平臺(tái)使用DeepSeek為用戶提供法律咨詢法律文檔生成:法律服務(wù)平臺(tái)使用DeepSeek自動(dòng)生成法律文檔法律知識(shí)庫:法律服務(wù)平臺(tái)使用DeepSeek構(gòu)建法律知識(shí)庫,方便用戶查詢信息法律文書翻譯:法律服務(wù)平臺(tái)使用DeepSeek將法律文書翻譯成多種語言法律培訓(xùn):法律服務(wù)平臺(tái)使用DeepSeek為用戶提供法律培訓(xùn)課自對(duì)網(wǎng)絡(luò)資料的整理3.2
DeepSeek大模型的應(yīng)用場(chǎng)景游戲與娛樂(低頻應(yīng)用)游戲角色智能:游戲開發(fā)公司使用DeepSeek為游戲角色提供智能行為游戲推薦:游戲平臺(tái)使用DeepSeek根據(jù)用戶游戲歷史推薦游戲虛擬現(xiàn)實(shí)體驗(yàn):游戲平臺(tái)使用DeepSeek提供虛擬現(xiàn)實(shí)游戲體驗(yàn)游戲社交:游戲平臺(tái)使用DeepSeek提供社交功能,增強(qiáng)玩家互動(dòng)游戲虛擬助手:游戲平臺(tái)使用DeepSeek提供虛擬助手,幫助玩家解決問題游戲內(nèi)容生成:游戲平臺(tái)使用DeepSeek自動(dòng)生成游戲內(nèi)容游戲數(shù)據(jù)分析:游戲公司使用DeepSeek分析玩家數(shù)據(jù),優(yōu)化游戲體驗(yàn)游戲語音識(shí)別:游戲平臺(tái)使用DeepSeek提供語音識(shí)別功能,增強(qiáng)游戲互動(dòng)游戲內(nèi)容審核:游戲平臺(tái)使用DeepSeek自動(dòng)審核用戶生成的內(nèi)容游戲市場(chǎng)分析:游戲公司使用DeepSeek分析市場(chǎng)數(shù)據(jù),制定游戲策略來自對(duì)網(wǎng)絡(luò)資料的整理3.2
DeepSeek大模型的應(yīng)用場(chǎng)景其他應(yīng)用(低頻應(yīng)用)自動(dòng)駕駛:汽車制造商使用DeepSeek開發(fā)自動(dòng)駕駛系統(tǒng),識(shí)別道路和障礙物智能物流:物流公司使用DeepSeek優(yōu)化物流路線,提高配送效率智能農(nóng)業(yè):農(nóng)業(yè)公司使用DeepSeek監(jiān)測(cè)作物生長(zhǎng),優(yōu)化種植方案智能交通:交通管理部門使用DeepSeek優(yōu)化交通流量,減少擁堵智能環(huán)保:環(huán)保機(jī)構(gòu)使用DeepSeek監(jiān)測(cè)環(huán)境數(shù)據(jù),提供環(huán)保建議智能能源管理:能源公司使用DeepSeek優(yōu)化能源使用,提高能源效率智能城市規(guī)劃:城市規(guī)劃部門使用DeepSeek分析城市數(shù)據(jù),優(yōu)化城市規(guī)劃智能零售:零售公司使用DeepSeek優(yōu)化庫存管理,提高銷售效率智能招聘:招聘平臺(tái)使用DeepSeek自動(dòng)篩選簡(jiǎn)歷,匹配職位需求智能數(shù)據(jù)分析:企業(yè)使用DeepSeek分析大數(shù)據(jù),提供商業(yè)洞察來自對(duì)網(wǎng)絡(luò)資料的整理3.3
大模型與其他技術(shù)在企業(yè)中的融合應(yīng)用自動(dòng)化流程技術(shù)(RPA)實(shí)現(xiàn)更加智能的業(yè)務(wù)流程自動(dòng)化。RPA
擅長(zhǎng)處理重復(fù)性的規(guī)則性任務(wù),而大模型則能夠理解自然語言指令,深入分析復(fù)雜的業(yè)務(wù)場(chǎng)景,并提供極具價(jià)值的決策建議。比如在財(cái)務(wù)部門,RPA
可以自動(dòng)完成發(fā)票錄入等任務(wù),而大模型則能夠回答員工關(guān)于財(cái)務(wù)政策的問題,并依據(jù)數(shù)據(jù)分析給出成本優(yōu)化的建議為企業(yè)提供更為精準(zhǔn)的知識(shí)管理和決策支持。知識(shí)圖譜以結(jié)構(gòu)化的方式呈現(xiàn)企業(yè)內(nèi)外部的知識(shí),大模型則可以利用知識(shí)圖譜進(jìn)行知識(shí)推理和查詢,迅速獲取所需信息。在研發(fā)部門,大模型結(jié)合知識(shí)圖譜,可以回答技術(shù)問題、推薦相關(guān)技術(shù)方案,助力研發(fā)人員實(shí)現(xiàn)創(chuàng)新知識(shí)圖譜技術(shù)對(duì)設(shè)備和生產(chǎn)過程進(jìn)行智能監(jiān)控和管理。物聯(lián)網(wǎng)設(shè)備會(huì)產(chǎn)生大量的數(shù)據(jù),大模型能夠?qū)@些數(shù)據(jù)進(jìn)行分析,預(yù)測(cè)設(shè)備故障,優(yōu)化生產(chǎn)流程。在制造業(yè)中,大模型可以根據(jù)傳感器數(shù)據(jù)實(shí)時(shí)調(diào)整生產(chǎn)參數(shù),提高生產(chǎn)效率和產(chǎn)品質(zhì)量物聯(lián)網(wǎng)技術(shù)單擊此處添加文本具體內(nèi)容,簡(jiǎn)明扼要地闡述您的觀點(diǎn)。根據(jù)需要可酌情增減文字,以便觀者準(zhǔn)確地理解您傳達(dá)的思想。單擊此處添加文本具體內(nèi)容智能語音技術(shù)幫助企業(yè)更好地理解和利用數(shù)據(jù)。大模型可以對(duì)大量的數(shù)據(jù)進(jìn)行分析和挖掘,提取有價(jià)值的信息,而數(shù)據(jù)分析和可視化技術(shù)則可以將這些信息以直觀的圖表和報(bào)告形式展示出來,方便企業(yè)管理層進(jìn)行決策數(shù)據(jù)分析與可視化技術(shù)4.
企業(yè)大模型落地方案企業(yè)大模型如何為企業(yè)賦能企業(yè)大模型的七大落地場(chǎng)景企業(yè)大模型的部署方式為什么需要本地部署大模型企業(yè)部署大模型規(guī)劃路線企業(yè)級(jí)應(yīng)用集成AI大模型的關(guān)鍵步驟企業(yè)級(jí)應(yīng)用集成大模型的技術(shù)架構(gòu)設(shè)計(jì)大模型應(yīng)用落地總體“四維認(rèn)知”框架大模型應(yīng)用落地策略建議大模型構(gòu)建的技術(shù)方案選擇4.11本地部署大模型初級(jí)方法本地部署大模型的成本企業(yè)部署大模型當(dāng)前關(guān)注的問題企業(yè)部署大模型面臨的挑戰(zhàn)廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊(duì)作品4.1
企業(yè)大模型如何為企業(yè)賦能企業(yè)AI大模型可以通過自動(dòng)化地完成一些工作來降低成本。比如,它可以通過自動(dòng)化的數(shù)據(jù)分析來減少人力資源的使用降低成本優(yōu)化業(yè)務(wù)流程企業(yè)AI大模型可以根據(jù)歷史數(shù)據(jù)和實(shí)時(shí)數(shù)據(jù)來優(yōu)化業(yè)務(wù)流程。比如,它可以通過預(yù)測(cè)分析來提前發(fā)現(xiàn)潛在的問題,并采取相應(yīng)的措施來避免這些問題的發(fā)生提高效率企業(yè)AI大模型可以自動(dòng)化地完成一些重復(fù)性、繁瑣的工作,從而提高工作效率。比如,它可以通過自然語言處理技術(shù)自動(dòng)回復(fù)客戶郵件、自動(dòng)分類垃圾郵件等等提高產(chǎn)品質(zhì)量企業(yè)AI大模型可以幫助企業(yè)更好地理解客戶需求,從而提高產(chǎn)品質(zhì)量。比如,它可以通過自然語言處理技術(shù)來分析客戶反饋意見,并針對(duì)性地改進(jìn)產(chǎn)品設(shè)計(jì)4.2
企業(yè)大模型的七大落地場(chǎng)景來源:網(wǎng)絡(luò)文章《大模型技術(shù)賦能企業(yè):七大落地場(chǎng)景深度解析》對(duì)話助手對(duì)話助手是大模型技術(shù)最基礎(chǔ)也是最廣泛的應(yīng)用形態(tài)?;谥R(shí)庫數(shù)據(jù)源和API查詢,對(duì)話助手能夠?qū)崟r(shí)回答用戶問題,提供高效的信息傳遞。例如,某一乘用車通過搭建基于AI大模型的汽車在線問答平臺(tái),實(shí)現(xiàn)了對(duì)非結(jié)構(gòu)化文檔(如PDF、Word等)的智能知識(shí)交互,提升了員工工作效率和學(xué)習(xí)能力。該平臺(tái)提供7*24小時(shí)的智能知識(shí)服務(wù),問題交互準(zhǔn)確率達(dá)95%以上,客戶滿意度提升了35%報(bào)告生成企業(yè)常常需要撰寫大量報(bào)告,這些報(bào)告往往具有固定模板且內(nèi)容復(fù)雜。大模型技術(shù)可以通過分解報(bào)告為多個(gè)子問題,分別求解,并將結(jié)果整合到預(yù)定框架中,實(shí)現(xiàn)報(bào)告的自動(dòng)生成。雖然這類應(yīng)用不能保證100%的準(zhǔn)確性,但結(jié)合多種技術(shù)手段(如大型和小型模型、專家系統(tǒng)等),可以大大提高生成效率和準(zhǔn)確性審核與合規(guī)審核類場(chǎng)景通常與生成類場(chǎng)景相伴相生。大模型技術(shù)不僅可以輔助生成文檔,還可以用于審核結(jié)構(gòu)化業(yè)務(wù)數(shù)據(jù)和非結(jié)構(gòu)化文檔。例如,在提交審批前,通過大模型進(jìn)行自動(dòng)審核,可以幫助提交者判斷是否需要修改,提高提交質(zhì)量,降低打回概率。此外,大模型還可以用于合規(guī)性和合法性審核,確保企業(yè)業(yè)務(wù)符合法律法規(guī)要求4.2
企業(yè)大模型的七大落地場(chǎng)景來源:網(wǎng)絡(luò)文章《大模型技術(shù)賦能企業(yè):七大落地場(chǎng)景深度解析》智能運(yùn)維與制造優(yōu)化大模型技術(shù)在智能運(yùn)維和制造優(yōu)化方面也發(fā)揮著重要作用。利用大模型技術(shù)構(gòu)建了智能運(yùn)維系統(tǒng),通過自然語言交互界面,實(shí)現(xiàn)了對(duì)運(yùn)維問題的智能回答。在制造領(lǐng)域,大模型可以通過智能分析和預(yù)測(cè)維護(hù),提升生產(chǎn)效率大模型技術(shù)正在重塑企業(yè)知識(shí)管理場(chǎng)景。通過大模型對(duì)語義的理解,企業(yè)可以將非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行結(jié)構(gòu)化提取和總結(jié),大大降低了知識(shí)管理的落地門檻知識(shí)管理數(shù)據(jù)分析數(shù)據(jù)分析是企業(yè)決策的重要依據(jù)。大模型技術(shù)通過引入編程能力,可以大大降低數(shù)據(jù)分析成本。然而,目前大模型在特定業(yè)務(wù)場(chǎng)景下的效果仍需優(yōu)化,模型微調(diào)是一種解決辦法在軟件開發(fā)領(lǐng)域,大模型技術(shù)可以作為編碼助手,提升工程師的工作效率。通過AI編程助手,減少了重復(fù)勞動(dòng),提升了代碼質(zhì)量編碼助手4.3
企業(yè)大模型的部署方式云端部署通過云廠商實(shí)現(xiàn)彈性擴(kuò)展和成本優(yōu)化本地/內(nèi)網(wǎng)部署通過本地?cái)?shù)據(jù)中心實(shí)現(xiàn)數(shù)據(jù)完全掌控邊緣部署通過邊緣節(jié)點(diǎn)實(shí)現(xiàn)低延遲和實(shí)時(shí)處理混合部署通過本地和云端結(jié)合實(shí)現(xiàn)靈活性和災(zāi)備需求容器化/微服務(wù)部署通過容器技術(shù)和微服務(wù)架構(gòu)實(shí)現(xiàn)敏捷開發(fā)和資源隔離聯(lián)邦部署通過聯(lián)邦協(xié)議和分布式架構(gòu)實(shí)現(xiàn)跨組織協(xié)作和數(shù)據(jù)隱私保護(hù)4.3
企業(yè)大模型的部署方式DeepSeek大模型部署在公有云或私有云上,利用云廠商的基礎(chǔ)設(shè)施和資源。適用場(chǎng)景:彈性需求:需要根據(jù)負(fù)載動(dòng)態(tài)調(diào)整資源快速擴(kuò)展:業(yè)務(wù)增長(zhǎng)迅速,需快速擴(kuò)展系統(tǒng)成本優(yōu)化:希望通過按需付費(fèi)模式降低IT成本云端部署DeepSeek大模型部署在企業(yè)內(nèi)部服務(wù)器或數(shù)據(jù)中心,數(shù)據(jù)和應(yīng)用完全在企業(yè)內(nèi)網(wǎng)中運(yùn)行。適用場(chǎng)景:數(shù)據(jù)敏感:對(duì)數(shù)據(jù)安全要求高,需完全掌控?cái)?shù)據(jù)合規(guī)要求:需滿足特定行業(yè)或地區(qū)的合規(guī)要求網(wǎng)絡(luò)限制:內(nèi)網(wǎng)環(huán)境無法連接外部網(wǎng)絡(luò)本地/內(nèi)網(wǎng)部署4.3
企業(yè)大模型的部署方式將DeepSeek大模型部署在靠近數(shù)據(jù)源的邊緣節(jié)點(diǎn),減少數(shù)據(jù)傳輸延遲。適用場(chǎng)景:低延遲需求:如物聯(lián)網(wǎng)、實(shí)時(shí)監(jiān)控等需要快速響應(yīng)的場(chǎng)景帶寬有限:數(shù)據(jù)傳輸成本高或帶寬有限時(shí),邊緣計(jì)算可減少數(shù)據(jù)上傳離線運(yùn)行:需要在網(wǎng)絡(luò)不穩(wěn)定或離線時(shí)仍能正常運(yùn)行邊緣部署結(jié)合云端和本地部署,DeepSeek大模型部分系統(tǒng)在云端,部分在本地。適用場(chǎng)景:靈活需求:部分?jǐn)?shù)據(jù)需本地處理,部分需云端處理過渡階段:從本地逐步遷移到云端時(shí),混合部署可作為過渡方案災(zāi)備需求:本地和云端互為備份,提升系統(tǒng)可靠性混合部署4.3
企業(yè)大模型的部署方式將DeepSeek大模型系統(tǒng)拆分為多個(gè)微服務(wù),使用容器技術(shù)(如Docker)進(jìn)行部署和管理。適用場(chǎng)景:敏捷開發(fā):需要快速迭代和發(fā)布新功能資源隔離:不同服務(wù)需要獨(dú)立運(yùn)行環(huán)境,避免相互干擾彈性擴(kuò)展:根據(jù)需求獨(dú)立擴(kuò)展特定服務(wù)容器化/微服務(wù)部署DeepSeek大模型多個(gè)獨(dú)立系統(tǒng)通過聯(lián)邦協(xié)議協(xié)作,共享數(shù)據(jù)和資源,但各自保持獨(dú)立。適用場(chǎng)景:跨組織協(xié)作:多個(gè)組織需共享數(shù)據(jù)但保持獨(dú)立管理數(shù)據(jù)隱私:需在保護(hù)數(shù)據(jù)隱私的前提下進(jìn)行數(shù)據(jù)共享分布式計(jì)算:需要在多個(gè)節(jié)點(diǎn)上分布式處理數(shù)據(jù),如聯(lián)邦學(xué)習(xí)聯(lián)邦部署4.3
企業(yè)大模型的部署方式硅基流動(dòng)推出一站式大模型
API
云服務(wù)平臺(tái)
SiliconCloud,集成了阿里通義大模型
Qwen2、智譜
AI
的
GLM-
4、幻方量化的
DeepSeek
-
R1
系列開源模型等眾多主流大模型,為開發(fā)者提供高效能、低成本的多品類
AI
模型服務(wù),開發(fā)者可直接調(diào)用平臺(tái)
API,無需自建服務(wù),大大節(jié)省了搭建和維護(hù)模型服務(wù)的時(shí)間和成本與華為云團(tuán)隊(duì)合作,聯(lián)合首發(fā)并上線基于華為云昇騰云服務(wù)的DeepSeekR1/V3
推理服務(wù),支持部署的DeepSeek
模型能達(dá)到與全球高端
GPU
部署模型持平的效果,并提供穩(wěn)定的生產(chǎn)級(jí)服務(wù)能力。還與智譜
AI
等廠商合作模型廣場(chǎng),客戶可一鍵調(diào)用超百個(gè)垂直領(lǐng)域模型大模型云端部署參考方案4.4
為什么需要本地部署大模型離線與高效使用定制化與靈活性數(shù)據(jù)隱私與安全性成本與資源優(yōu)化避免使用限制本地部署大模型4.5
企業(yè)部署大模型規(guī)劃路線數(shù)據(jù)治理知識(shí)庫大模型第一階第二階第三階知識(shí)庫——
把員工經(jīng)驗(yàn)變成企業(yè)資產(chǎn)數(shù)據(jù)治理——
給企業(yè)數(shù)據(jù)
“立規(guī)矩”DeepSeek
大模型
——
讓企業(yè)擁有“數(shù)字大腦”廈大團(tuán)隊(duì)兩本數(shù)據(jù)治理書籍4.5
企業(yè)部署大模型規(guī)劃路線構(gòu)建企業(yè)內(nèi)部知識(shí)庫(RAG系統(tǒng))短期(0-6月)開發(fā)行業(yè)專屬大模型(模型微調(diào))中期(6-18月)搭建AI
Agent工作流(企業(yè)智能體)長(zhǎng)期(18月+)4.6
企業(yè)級(jí)應(yīng)用集成AI大模型的關(guān)鍵步驟企業(yè)首先需要明確AI應(yīng)用的具體場(chǎng)景,如文本生成、情感分析、圖片理解和生成等。這有助于后續(xù)模型的選擇與技術(shù)路線的設(shè)計(jì)需求場(chǎng)景定義根據(jù)需求場(chǎng)景,企業(yè)需要在眾多預(yù)訓(xùn)練模型中選擇合適的AI大模型。這一過程中,企業(yè)需要綜合考慮模型的性能、準(zhǔn)確性、計(jì)算效率、成本及安全性等因素模型選型選定模型后,企業(yè)需要通過提示詞工程、RAG、微調(diào)等策略對(duì)模型進(jìn)行優(yōu)化,以提升其在特定場(chǎng)景下的表現(xiàn)效果與可靠性模型優(yōu)化最后,企業(yè)需要將AI大模型無縫集成到現(xiàn)有的業(yè)務(wù)系統(tǒng)中,實(shí)現(xiàn)自動(dòng)化決策或增強(qiáng)用戶體驗(yàn)應(yīng)用集成優(yōu)化后的模型需要被部署到合適的環(huán)境中,如云端、邊緣計(jì)算或本地服務(wù)器等。這要求企業(yè)具備強(qiáng)大的技術(shù)實(shí)力和豐富的運(yùn)維經(jīng)驗(yàn)?zāi)P筒渴?.7
企業(yè)級(jí)應(yīng)用集成AI大模型的技術(shù)架構(gòu)設(shè)計(jì)包括內(nèi)部數(shù)據(jù)庫、公共數(shù)據(jù)集、第三方數(shù)據(jù)服務(wù)等,為AI大模型提供豐富的數(shù)據(jù)支持使用爬蟲、API、IoT設(shè)備等手段收集數(shù)據(jù),并進(jìn)行清洗、格式化、歸一化、特征提取等預(yù)處理操作使用機(jī)器學(xué)習(xí)框架(如TensorFlow、PyTorch等)訓(xùn)練模型,并通過交叉驗(yàn)證、A/B測(cè)試等方法評(píng)估模型性能企業(yè)級(jí)應(yīng)用集成AI大模型的技術(shù)架構(gòu)設(shè)計(jì),需要綜合考慮業(yè)務(wù)需求、數(shù)據(jù)安全、模型性能等多方面因素。以下是一個(gè)典型的技術(shù)架構(gòu)設(shè)計(jì)框架:數(shù)據(jù)源層 數(shù)據(jù)采集與預(yù)處理層 模型訓(xùn)練與評(píng)估層模型部署與服務(wù)層將訓(xùn)練好的模型部署為RESTful
API等服務(wù),使用Docker、Kubernetes等工具進(jìn)行容器化與編排,實(shí)現(xiàn)高效的模型管理和服務(wù)將AI模型集成到業(yè)務(wù)流程中,通過Web應(yīng)用、移動(dòng)應(yīng)用等用戶界面提供交互服務(wù)業(yè)務(wù)邏輯與用戶界面層實(shí)施加密、訪問控制等手段保護(hù)數(shù)據(jù)安全,確保AI應(yīng)用符合行業(yè)標(biāo)準(zhǔn)和國(guó)家法規(guī)安全與合規(guī)層4.8
大模型應(yīng)用落地總體“四維認(rèn)知”框架來源:網(wǎng)絡(luò)技術(shù)文章《大模型應(yīng)用落地路徑頂層設(shè)計(jì)》直面行業(yè)轉(zhuǎn)型現(xiàn)狀與痛點(diǎn)在啟動(dòng)大模型項(xiàng)目時(shí),必須深入分析行業(yè)轉(zhuǎn)型的階段性特征、業(yè)務(wù)體系的現(xiàn)實(shí)需求以及技術(shù)架構(gòu)的短板痛點(diǎn),找準(zhǔn)問題,避免照搬照抄問題診斷診斷短板,明確能力提升路徑找準(zhǔn)問題僅僅是第一步,還需要進(jìn)一步診斷企業(yè)在大模型應(yīng)用方面的短板,
給出補(bǔ)齊相關(guān)能力的“藥方”能力評(píng)估聚焦待補(bǔ)齊能力背后的技術(shù)議題大模型能力的提升并非一蹴而就,需要在算力基礎(chǔ)、數(shù)據(jù)積累、模型優(yōu)化等方面持續(xù)發(fā)力焦點(diǎn)確認(rèn)制定技術(shù)建設(shè)路線圖,有的放矢地行動(dòng)行動(dòng)計(jì)劃梳理清楚大模型落地所需的能力體系只是第一步,接下來還需要以行動(dòng)為指引,將愿景變?yōu)楝F(xiàn)實(shí)4.9
大模型應(yīng)用落地策略建議聚焦業(yè)務(wù)場(chǎng)景需求并合理選擇模型-
深入剖析業(yè)務(wù)需求,首選大語言模型提升文本處理效率;多模態(tài)業(yè)務(wù)需權(quán)衡技術(shù)成本,采用合適架構(gòu)融入系統(tǒng)評(píng)估自身數(shù)據(jù)豐富度及質(zhì)量-
評(píng)估數(shù)據(jù)豐富度、多樣性、時(shí)效性和隱私保護(hù)要求,確保數(shù)據(jù)支持模型訓(xùn)練微調(diào),符合合規(guī)要求建立持續(xù)學(xué)習(xí)與迭代機(jī)制-
建立性能監(jiān)控和反饋機(jī)制,定期評(píng)估模型效果,根據(jù)需求和反饋調(diào)優(yōu)迭代,確保模型持續(xù)滿足業(yè)務(wù)需求探索大模型應(yīng)用與業(yè)務(wù)的深度融合-
從輔助生成場(chǎng)景拓展到為決策賦能,推動(dòng)數(shù)字化轉(zhuǎn)型和智能化升級(jí),實(shí)現(xiàn)業(yè)務(wù)流程自動(dòng)化智能化明確任務(wù)性質(zhì)結(jié)合業(yè)務(wù)邏輯優(yōu)化流程-
區(qū)分輔助生成與決策性任務(wù),優(yōu)化輸入輸出流程(輔助生成任務(wù))或結(jié)合模型預(yù)測(cè)與決策邏輯(決策性任務(wù))明確技術(shù)選型與適配性-
綜合評(píng)估框架成熟度、易用性、擴(kuò)展性和兼容性等因素,選擇合適大模型框架并確保與現(xiàn)有系統(tǒng)高效集成培養(yǎng)獨(dú)立的AI人才與團(tuán)隊(duì)-
引進(jìn)培養(yǎng)AI專業(yè)人才,負(fù)責(zé)模型微調(diào)、技術(shù)引入和系統(tǒng)集成等工作,支撐大模型應(yīng)用發(fā)展4.10
大模型構(gòu)建的技術(shù)方案選擇模型微調(diào)和本地知識(shí)庫使用海量數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練得到的基礎(chǔ)大模型,具備廣泛的語言理解和生成能力,但在特定任務(wù)上的表現(xiàn)往往不夠精準(zhǔn)。解決方案:(1)模型微調(diào);(2)本地知識(shí)庫模型微調(diào)技術(shù)特點(diǎn)領(lǐng)域針對(duì)性強(qiáng):經(jīng)過微調(diào)的模型在特定領(lǐng)域的表現(xiàn)會(huì)有顯著提升,能夠更好地理解和處理該領(lǐng)域的專業(yè)問題;模型適應(yīng)性優(yōu)化:通過微調(diào)可以調(diào)整模型的參數(shù),使其更符合特定任務(wù)的要求,提高輸出的準(zhǔn)確性和穩(wěn)定性。模型微調(diào)技術(shù)要點(diǎn)高質(zhì)量的標(biāo)注數(shù)據(jù):標(biāo)注數(shù)據(jù)的質(zhì)量直接影響微調(diào)的效果,需要確保數(shù)據(jù)標(biāo)注的準(zhǔn)確性和一致性。合理的微調(diào)策略:選擇合適的微調(diào)算法和超參數(shù),避免過擬合或欠擬合問題。模型微調(diào)還是本地知識(shí)庫?4.10
大模型構(gòu)建的技術(shù)方案選擇模型微調(diào)主要是指令微調(diào),指令微調(diào)包括兩個(gè)階段:監(jiān)督微調(diào)和強(qiáng)化學(xué)習(xí)在監(jiān)督微調(diào)階段,模型會(huì)學(xué)習(xí)一個(gè)
指令-響應(yīng)(Instruction-Response)數(shù)據(jù)集,該數(shù)據(jù)集包含大量人類編寫的任務(wù)示例,例如“請(qǐng)解釋相對(duì)論的基本概念”及其標(biāo)準(zhǔn)答案通過這種方式,模型能夠理解不同類型的任務(wù)并提供符合預(yù)期的回答。指令-響應(yīng)(Instruction-Response)數(shù)據(jù)集用于訓(xùn)練模型理解任務(wù)指令并生成符合預(yù)期的響應(yīng)監(jiān)督微調(diào)在微調(diào)完成后,部分高級(jí)模型還會(huì)使用強(qiáng)化學(xué)習(xí)進(jìn)行優(yōu)化。例如,ChatGPT
和
Claude使用
人類反饋強(qiáng)化學(xué)習(xí)(RLHF)讓模型的回答更符合用戶期望,更好地選擇符合人類偏好的答案強(qiáng)化學(xué)習(xí)不足之處:數(shù)據(jù)準(zhǔn)備成本高需要收集、整理和標(biāo)注大量特定領(lǐng)域的數(shù)據(jù),這是一個(gè)耗時(shí)費(fèi)力的過程時(shí)效性問題對(duì)知識(shí)更新頻繁的領(lǐng)域,微調(diào)后的模型可能很快會(huì)過時(shí),需要不斷重新訓(xùn)練4.10
大模型構(gòu)建的技術(shù)方案選擇本地知識(shí)庫RAG(Retrieval-Augmented
Generation),即檢索增強(qiáng)生成,是一種結(jié)合檢索技術(shù)和生成模型的技術(shù)框架,旨在提升模型生成內(nèi)容的準(zhǔn)確性和相關(guān)性其核心思想是:在生成答案前,先從外部知識(shí)庫中檢索相關(guān)信息,再將檢索結(jié)果與用戶輸入結(jié)合,指導(dǎo)生成模型輸出更可靠的回答。簡(jiǎn)單地說,就是利用已有的文檔、內(nèi)部知識(shí)生成向量知識(shí)庫,在提問的時(shí)候結(jié)合庫的內(nèi)容一起給大模型,讓其回答的更準(zhǔn)確,它結(jié)合了信息檢索和大模型技術(shù)4.10
大模型構(gòu)建的技術(shù)方案選擇本地知識(shí)庫的優(yōu)點(diǎn)保護(hù)數(shù)據(jù)隱私由于日常的業(yè)務(wù)知識(shí)是保存到本地的,所以減少信息泄露的風(fēng)險(xiǎn)減少模型幻覺由于提問結(jié)合了業(yè)務(wù)知識(shí),所以減少了模型的幻覺,即減少了模型的胡說八道實(shí)時(shí)知識(shí)補(bǔ)充模型的回復(fù)結(jié)合了業(yè)務(wù)知識(shí)和實(shí)時(shí)知識(shí),所以實(shí)時(shí)性可以更好無需重新訓(xùn)練不用重新訓(xùn)練模型,微調(diào)模型降低了成本4.11
本地部署大模型初級(jí)方法步驟安裝Ollama下載DeepSeek
R1運(yùn)行DeepSeek
R1使用Open
WebUI增強(qiáng)交互體驗(yàn)具體安裝過程請(qǐng)參考廈門大學(xué)數(shù)據(jù)庫實(shí)驗(yàn)室博客/blog/5816/4.12
本地部署大模型的成本DeepSeekR1671B(滿血版)部署成本1.硬件采購(gòu)成本服務(wù)器集群:含8張NVIDIA
A100/H100顯卡的服務(wù)器,市場(chǎng)價(jià)格約80-120萬元配套設(shè)備:液冷系統(tǒng)、冗余電源等附加成本約15-25萬元2.運(yùn)維成本電費(fèi):滿載功耗約6000W,年電費(fèi)約5-8萬元(按工業(yè)電價(jià)1.2元/度計(jì)算)維護(hù):專業(yè)工程師團(tuán)隊(duì)年成本約30-50萬元4.12
本地部署大模型的成本2025年2月10日,清華大學(xué)AI團(tuán)隊(duì)發(fā)布KTransformers開源項(xiàng)目迎來重大更新,成功打破大模型推理算力門檻。此前,擁有671B參數(shù)的MoE架構(gòu)大模型DeepSeek-R1在推理時(shí)困難重重。推理服務(wù)器常因高負(fù)荷宕機(jī),專屬版云服務(wù)器按GPU小時(shí)計(jì)費(fèi)的高昂成本讓中小團(tuán)隊(duì)無力承擔(dān),而市面上的“本地部署”方案多為參數(shù)量大幅縮水的蒸餾版,在本地小規(guī)模硬件上運(yùn)行滿血版
DeepSeek-R1
被認(rèn)為幾乎不可能此次KTransformers項(xiàng)目更新帶來重大突破,支持在24G顯存(4090D)的設(shè)備上本地運(yùn)行
DeepSeek-R1、V3的671B滿血版。其預(yù)處理速度最高可達(dá)286
tokens/s,推理生成速度最高能達(dá)到14
tokens/s。甚至有開發(fā)者借助這一優(yōu)化技術(shù),在3090顯卡和200GB內(nèi)存的配置下,使Q2_K_XL模型的推理速度達(dá)到9.1tokens/s,實(shí)現(xiàn)了千億級(jí)模型的“家庭化”運(yùn)行傳統(tǒng)方案:8卡A100服務(wù)器成本超百萬元,按需計(jì)費(fèi)每小時(shí)數(shù)千元清華方案:?jiǎn)慰≧TX
4090方案,整機(jī)成本約2萬元,功耗80W4.13
企業(yè)部署大模型當(dāng)前關(guān)注的問題收益不確定:當(dāng)前很多應(yīng)用場(chǎng)景多處于驗(yàn)證階段,其實(shí)際效果和最終收益存在不確定性落地和建設(shè)路徑:第一,是模型本身,研發(fā)能力不足的企業(yè)用戶,是否自身要去做模型訓(xùn)練?現(xiàn)階段是否一定要有企業(yè)內(nèi)部專屬大模型?第二,如果做訓(xùn)練和微調(diào),現(xiàn)有的數(shù)據(jù)量是否足夠?第三,算力是否需要投入?如果增加算力投入,整體項(xiàng)目預(yù)算量級(jí)會(huì)上升一個(gè)級(jí)別。第四,如何量化最終收益?第五,是項(xiàng)目可行性問題,大多數(shù)企業(yè)用戶在過去一年都已經(jīng)做過大模型嘗試,準(zhǔn)確性、幻覺問題一直存在,如何解決?合規(guī):模型本身是否自主可控?數(shù)據(jù)是否安全合規(guī)?信創(chuàng)要求。選型:現(xiàn)在市面上第一類大模型由互聯(lián)網(wǎng)大廠,像阿里、騰訊、華為等大廠研發(fā)的相關(guān)產(chǎn)品。那第二類是專注單點(diǎn)應(yīng)用的小廠,比如專注于
Agent
平臺(tái)和
Agent
應(yīng)用開發(fā)。第三,現(xiàn)有垂直供應(yīng)商。所有企業(yè)用戶都會(huì)關(guān)注選型問題,雖然大模型大廠本身技術(shù)能力很強(qiáng),但不一定特別理解企業(yè)自身業(yè)務(wù)場(chǎng)景,而現(xiàn)有的垂直廠商本身技術(shù)能力會(huì)受到多方質(zhì)疑,所以選型是重點(diǎn)關(guān)注的問題。4.14
企業(yè)部署大模型面臨的挑戰(zhàn)AI大模型正在重構(gòu)千行萬業(yè),造就數(shù)據(jù)的黃金時(shí)代,然而AI進(jìn)入各行業(yè)仍面臨著挑戰(zhàn):從通用大模型到行業(yè)場(chǎng)景大模型,需要進(jìn)行針對(duì)性訓(xùn)練,訓(xùn)練所需數(shù)據(jù)預(yù)處理耗時(shí)長(zhǎng),收集、清洗等環(huán)節(jié)占模型開發(fā)訓(xùn)練時(shí)長(zhǎng)60%,需要高效歸集、管理的數(shù)據(jù)工程能力其次,行業(yè)場(chǎng)景模型訓(xùn)練和應(yīng)用落地難,項(xiàng)目開發(fā)難度大,人員技術(shù)要求高,開發(fā)周期不可控,需要環(huán)境易安裝、模型易訓(xùn)練、應(yīng)用易搭建的AI業(yè)務(wù)平臺(tái)最后,因算力等待、任務(wù)潮汐、資源碎片化等原因,AI集群可用度往往不足50%,需要不斷提升全系統(tǒng)調(diào)度效率大模型企業(yè)落地解決方案供應(yīng)商(比如DeepSeek一體機(jī)廠商)可以提供支持:一數(shù)據(jù)工程工具化,縮短80%訓(xùn)練數(shù)據(jù)準(zhǔn)備周期三極簡(jiǎn)應(yīng)用開發(fā)平臺(tái),支撐非專業(yè)開發(fā)者快速上手二系統(tǒng)級(jí)模型訓(xùn)練與推理加速能力,實(shí)現(xiàn)模型訓(xùn)練周期縮短30%,推理并發(fā)提升一倍智能體的企業(yè)應(yīng)用智能體的概念2
智能體和RAG的區(qū)別典型的智能體類型智能體產(chǎn)品5.
5
國(guó)內(nèi)典型的智能體開發(fā)平臺(tái)廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊(duì)作品5.
1
智能體的概念5.
1
智能體的概念智能體(AI
Agent),又稱“人工智能代理”,是一種模仿人類智能行為的智能化系統(tǒng),它就像是擁有豐富經(jīng)驗(yàn)和知識(shí)的“智慧大腦”,能夠感知所處的環(huán)境,并依據(jù)感知結(jié)果,自主地進(jìn)行規(guī)劃、決策,進(jìn)而采取行動(dòng)以達(dá)成特定目標(biāo)。簡(jiǎn)單來說,智能體能夠根據(jù)外部輸入做出決策,并通過與環(huán)境的互動(dòng),不斷優(yōu)化自身行為智能體本身既不是單純的軟件也不是硬件,而是一個(gè)更為寬泛的概念,它們可以是軟件程序、機(jī)器人或其他形式的系統(tǒng),具備一定的自主性和智能性5.
1
智能體的概念基于大模型的智能體是指利用大語言模型(如GPT、BERT等)作為核心組件,構(gòu)建的能夠執(zhí)行特定任務(wù)、與環(huán)境交互并做出決策的人工智能系統(tǒng)。這些智能體具有自主性、交互性、適應(yīng)性等特點(diǎn),能夠模擬人類的認(rèn)知和決策過程,提供更加自然、高效和個(gè)性化的交互體驗(yàn)。它們能夠處理海量數(shù)據(jù),進(jìn)行高效的學(xué)習(xí)與推理,并展現(xiàn)出跨領(lǐng)域的應(yīng)用潛力AI
Agent
的誕生就是為了處理各種復(fù)雜任務(wù)的,就復(fù)雜任務(wù)的處理流程而言
AI
Agent
主要分為兩大類:行動(dòng)類、規(guī)劃執(zhí)行類??偠灾珹I
Agent
就是結(jié)合大模型能去自動(dòng)思考、規(guī)劃、效驗(yàn)和執(zhí)行的一個(gè)計(jì)算體,以完成特定的任務(wù)目標(biāo),如果把大模型比作大腦,那
AIAgent
可以理解為小腦
+
手腳5.
1
智能體的概念過去的嵌入式工具型
AI助手型工具
(例如siri、小度、小愛音箱),只完成和人之間的問答會(huì)話目前各類
AI
Copilot
不再是機(jī)械地完成人類指令,而是可以參與人類工作流,為諸如編寫代碼、策劃活動(dòng)、優(yōu)化流程等事項(xiàng)提供建議,與人類協(xié)同完成AI
Agent
的工作僅需給定一個(gè)目標(biāo),它就能夠針對(duì)目標(biāo)獨(dú)立思考并做出行動(dòng),它會(huì)根據(jù)給定任務(wù)詳細(xì)拆解出每一步的計(jì)劃步驟,依靠來自外界的反饋和自主思考,自己給自己創(chuàng)建
prompt,來實(shí)現(xiàn)目標(biāo)5.
2
智能體和RAG的區(qū)別RAG和智能體RAG
技術(shù)就像是一個(gè)智能的知識(shí)助手,它通過將外部知識(shí)庫與大語言模型相結(jié)合,極大地增強(qiáng)了模型的回答能力。當(dāng)用戶提出問題時(shí),RAG
首先會(huì)在龐大的知識(shí)庫中進(jìn)行檢索,找到相關(guān)的信息,然后將這些信息與大語言模型的生成能力相結(jié)合,給出更加準(zhǔn)確、全面的回答。例如,在企業(yè)客服場(chǎng)景中,RAG
可以快速檢索企業(yè)的產(chǎn)品資料、常見問題解答等知識(shí)庫,為客戶提供精準(zhǔn)的服務(wù),大大提高了客服的效率和質(zhì)量智能體更像是一個(gè)擁有自主意識(shí)的智能員工,它以大語言模型為驅(qū)動(dòng),具備自主理解、感知、規(guī)劃、記憶和使用工具的能力。它可以根據(jù)目標(biāo)任務(wù),進(jìn)行智能規(guī)劃與決策,自動(dòng)執(zhí)行復(fù)雜的任務(wù)。比如在智能辦公場(chǎng)景中,AI
Agent
可以根據(jù)用戶的日程安排,自動(dòng)預(yù)訂會(huì)議室、安排會(huì)議議程,還能在會(huì)議結(jié)束后自動(dòng)生成會(huì)議紀(jì)要,實(shí)現(xiàn)辦公流程的自動(dòng)化,讓員工從繁瑣的事務(wù)性工作中解脫出來RAG
的部署相對(duì)來說成本較低,主要集中在知識(shí)庫的建設(shè)和維護(hù)上。企業(yè)可以利用現(xiàn)有的數(shù)據(jù)資源,構(gòu)建自己的知識(shí)庫,然后通過接入大語言模型,實(shí)現(xiàn)
RAG
的功能。對(duì)于一些數(shù)據(jù)量較小、業(yè)務(wù)場(chǎng)景相對(duì)簡(jiǎn)單的企業(yè)來說,RAG
是一個(gè)性價(jià)比很高的選擇AI
Agent
的部署則需要更高的技術(shù)門檻和成本。它不僅需要強(qiáng)大的大語言模型支持,還需要構(gòu)建復(fù)雜的智能規(guī)劃和決策系統(tǒng),以及與各種工具和系統(tǒng)的集成。此外,AI
Agent
還需要不斷地進(jìn)行訓(xùn)練和優(yōu)化,以提高其智能水平和適應(yīng)性。因此,對(duì)于一些中小企業(yè)來說,AIAgent
的部署成本可能較高,但對(duì)于大型企業(yè)和對(duì)智能化要求較高的企業(yè)來說,AIAgent
帶來的價(jià)值可能遠(yuǎn)超其成本5.
2
智能體和RAG的區(qū)別RAG和智能體在運(yùn)行效果上,RAG
在處理一些需要大量知識(shí)支持的任務(wù)時(shí)表現(xiàn)出色,比如智能問答、文檔生成等。它能夠利用知識(shí)庫中的信息,為用戶提供準(zhǔn)確、詳細(xì)的回答。但
RAG
的局限性在于,它缺乏自主決策和規(guī)劃的能力,對(duì)于一些復(fù)雜的、需要靈活應(yīng)變的任務(wù)可能無法勝任R
A
GRAG
和
AI
Agent
都有各自的優(yōu)勢(shì)和適用場(chǎng)景。對(duì)于企業(yè)用戶來說,在選擇時(shí)需要根據(jù)自身的業(yè)務(wù)需求、數(shù)據(jù)資源、技術(shù)實(shí)力和預(yù)算等因素進(jìn)行綜合考慮。如果企業(yè)只是需要解決一些簡(jiǎn)單的知識(shí)檢索和生成問題,那么
RAG
可能是一個(gè)不錯(cuò)的選擇;如果企業(yè)希望實(shí)現(xiàn)業(yè)務(wù)流程的全面自動(dòng)化和智能化,那么
AIAgent
則更能滿足其需求。在這個(gè)快速發(fā)展的人工智能時(shí)代,只有選擇最適合自己的技術(shù),才能在激烈的市場(chǎng)競(jìng)爭(zhēng)中立于不敗之地各自的優(yōu)勢(shì)和適用場(chǎng)景AI
Agent
則在復(fù)雜場(chǎng)景下展現(xiàn)出了強(qiáng)大的優(yōu)勢(shì),它能夠根據(jù)環(huán)境的變化和任務(wù)的要求,自主地進(jìn)行決策和規(guī)劃,實(shí)現(xiàn)任務(wù)的自動(dòng)化執(zhí)行。無論是在智能客服、智能辦公還是智能生產(chǎn)等領(lǐng)域,AIAgent
都能夠發(fā)揮出其獨(dú)特的價(jià)值,提高企業(yè)的運(yùn)營(yíng)效率和競(jìng)爭(zhēng)力A
I A
g
e
n
t5.3
典型的智能體類型典型的智能體類型生產(chǎn)力智能體:這一類智能體通過自動(dòng)化任務(wù)、優(yōu)化工作流程和提升效率來顯著提高生產(chǎn)力智能體框架:是一組編程工具和庫,專門為創(chuàng)建高效、可擴(kuò)展的AI智能體設(shè)計(jì)。它們通常包括用于任務(wù)規(guī)劃、對(duì)話管理和數(shù)據(jù)處理的模塊語音AI智能體:通過語音識(shí)別和自然語言處理技術(shù),與用戶進(jìn)行語音交互。這些智能體在智能家居、車載系統(tǒng)和客戶服務(wù)中非常常見數(shù)據(jù)分析智能體:可以處理海量數(shù)據(jù),快速生成洞察,并幫助用戶做出數(shù)據(jù)驅(qū)動(dòng)的決策。它們廣泛應(yīng)用于商業(yè)、科學(xué)和金融領(lǐng)域個(gè)人助理智能體:可以幫助用戶管理日程、發(fā)送提醒、執(zhí)行簡(jiǎn)單任務(wù),甚至提供個(gè)性化建議,提升個(gè)人的日常效率智能體開發(fā)平臺(tái):是支持開發(fā)、管理和部署智能體的技術(shù)基礎(chǔ)。它們提供必要的工具和接口,幫助企業(yè)和個(gè)人快速構(gòu)建和集成智能體編程類AI智能體:能夠協(xié)助開發(fā)者完成代碼編寫、調(diào)試和優(yōu)化,提升開發(fā)效率,減少人為錯(cuò)誤客戶服務(wù)智能體:俗稱“智能客服”,能夠提供即時(shí)的客戶支持、回答常見問題,并通過個(gè)性化推薦提高客戶滿意度數(shù)字化工作者:是一種AI智能體,專注于執(zhí)行重復(fù)性高的任務(wù),比如數(shù)據(jù)輸入、文檔整理和流程自動(dòng)化5.3
典型的智能體類型企業(yè)產(chǎn)品實(shí)例5.3
典型的智能體類型企業(yè)產(chǎn)品實(shí)例5.3
典型的智能體類型企業(yè)產(chǎn)品實(shí)例5.4
智能體產(chǎn)品2025年1月23日,OpenAI發(fā)布了一個(gè)創(chuàng)新性的智能體——Operator,它是一個(gè)能夠像人類一樣使用計(jì)算機(jī)的智能體。它基于OpenAI最新研發(fā)的CUA(Computer-UsingAgent)模型,CUA
將
GPT-4o
的視覺功能與通過強(qiáng)化學(xué)習(xí)獲得的高級(jí)推理相結(jié)合,經(jīng)過訓(xùn)練可以與圖形用戶界面(GUI,即人們?cè)谄聊簧峡吹降陌粹o、菜單和文本字段)進(jìn)行交互。Operator通過觀察屏幕并使用虛擬鼠標(biāo)和鍵盤來完成任務(wù),而無需依賴專門的API接口。這種設(shè)計(jì)使其可以適配任何為人類設(shè)計(jì)的軟件界面,帶來極高的靈活性O(shè)perator好比一個(gè)博士水平的個(gè)人助理,你給他一個(gè)復(fù)雜的任務(wù),它就會(huì)自動(dòng)執(zhí)行。Operator的主要功能包括自主完成諸如采購(gòu)雜貨、提交費(fèi)用報(bào)表、訂票、買日用品、填寫表格等任務(wù),旨在通過自動(dòng)化操作提升日常生活和工作效率。它還可以一邊在StubHub搜索勇士隊(duì)比賽門票,一邊處理網(wǎng)球場(chǎng)預(yù)訂、尋找清潔服務(wù)和DoorDash訂餐,實(shí)現(xiàn)多任務(wù)并行處理5.4
智能體產(chǎn)品會(huì)自動(dòng)24小時(shí)掃描全球知識(shí)庫能把零散的信息拼成完整的戰(zhàn)略地圖2025年2月3日,OpenAI發(fā)布了一款新的智能體產(chǎn)品——DeepResearch。Deep
Research由OpenAIo3模型的一個(gè)版本提供支持,該模型針對(duì)網(wǎng)頁瀏覽和數(shù)據(jù)分析進(jìn)行了優(yōu)化,它利用推理來搜索、解釋和分析互聯(lián)網(wǎng)上的大量文本、圖像和PDF,并根據(jù)需要根據(jù)遇到的信息做出調(diào)整。Deep
Research具有以下四大核心技術(shù):數(shù)據(jù)雷達(dá) 知識(shí)拼圖發(fā)現(xiàn)矛盾時(shí),自動(dòng)回溯、驗(yàn)證,調(diào)整推理路徑邏輯推理可以綜合各種知識(shí),生成完美報(bào)告,附帶文獻(xiàn)引用學(xué)術(shù)裁縫5.
5
國(guó)內(nèi)典型的智能體開發(fā)平臺(tái)Coze(扣子)是字節(jié)跳動(dòng)推出的新一代
AI
智能體開發(fā)服務(wù)平臺(tái)5.
5
國(guó)內(nèi)典型的智能體開發(fā)平臺(tái)5.
5
國(guó)內(nèi)典型的智能體開發(fā)平臺(tái)5.
5
國(guó)內(nèi)典型的智能體開發(fā)平臺(tái)5.
5
國(guó)內(nèi)典型的智能體開發(fā)平臺(tái)支付寶5.
5
國(guó)內(nèi)典型的智能體開發(fā)平臺(tái)廠商提供的企業(yè)級(jí)大模型服務(wù)企業(yè)級(jí)大模型落地解決方案服務(wù)DeepSeek大模型一體機(jī)企業(yè)選擇大模型產(chǎn)品的考察維度企業(yè)大模型應(yīng)用專業(yè)顧問廈門大學(xué)大數(shù)據(jù)教學(xué)團(tuán)隊(duì)作品6.1
企業(yè)級(jí)大模型落地解決方案服務(wù)云廠商為代表的大廠-
具備強(qiáng)大基礎(chǔ)能力,可解決復(fù)雜問題;構(gòu)建通用能力支持共性需求;擁有自研模型和充足算力,提供全方位服務(wù)AI應(yīng)用企業(yè)為代表的服務(wù)商-
注重用戶體驗(yàn)流暢性;對(duì)特定行業(yè)理解深入,提供貼合行業(yè)需求的方案;基于場(chǎng)景經(jīng)驗(yàn)提供實(shí)用服務(wù)新興大模型應(yīng)用開發(fā)服務(wù)商-
有完善算力運(yùn)營(yíng)調(diào)度方案,通過軟硬件優(yōu)化和多元異構(gòu)算力適配技術(shù)提升AI應(yīng)用性能6.1
企業(yè)級(jí)大模型落地解決方案服務(wù)來自UST6.1
企業(yè)級(jí)大模型落地解決方案服務(wù)來自UST6.1
企業(yè)級(jí)大模型落地解決方案服務(wù)6.2
DeepSeek大模型一體機(jī)提供1.5B輕量版至671B超大規(guī)模模型的靈活調(diào)用,滿足邊緣端輕量化推理與云端復(fù)雜訓(xùn)練的雙重需求,支持模型蒸餾與定制化開發(fā),助力企業(yè)“按需取用”全尺寸模型支持通過智能算力管理引擎,實(shí)現(xiàn)CPU、GPU等異構(gòu)資源的動(dòng)態(tài)分配,提升資源利用率,降低算力閑置成本動(dòng)態(tài)資源調(diào)度內(nèi)置政務(wù)公文寫作、金融合同審核、工業(yè)質(zhì)檢、智能客服等多種垂直場(chǎng)景解決方案,結(jié)合API服務(wù)快速對(duì)接企業(yè)現(xiàn)有系統(tǒng)行業(yè)場(chǎng)景深度適配從數(shù)據(jù)集管理、模型微調(diào)、日志監(jiān)控到自動(dòng)化運(yùn)維,提供端到端的技術(shù)支持,降低企業(yè)AI應(yīng)用的長(zhǎng)期運(yùn)營(yíng)成本全生命周期管理支持私有化部署至客戶本地環(huán)境,確保金融、政府等高敏感行業(yè)的數(shù)據(jù)主權(quán),符合國(guó)家信創(chuàng)安全標(biāo)準(zhǔn)數(shù)據(jù)安全與本地化部署6.2
DeepSeek大模型一體機(jī)某廠商國(guó)產(chǎn)化AI算力的“開箱即用”解決方案6.2
DeepSeek大模型一體機(jī)天璣科技:PriData
超融合一體機(jī)深信服:一朵云??低暎何乃汛鎯?chǔ)系列產(chǎn)品大華股份:大華神算浪潮信息:DeepSeek
"推理一體機(jī)"中國(guó)長(zhǎng)城:長(zhǎng)城擎天
GF7280
V5
AI
訓(xùn)推一體機(jī)中科曙光:曙光
DeepSeek
人工智能一體機(jī)優(yōu)刻得:
DeepSeek
滿血版大模型一體機(jī)云從科技:從容大模型訓(xùn)推一體機(jī)天融信:融信DeepSeek
安全智算一體機(jī)新致軟件:新致信創(chuàng)一體機(jī)軟通動(dòng)力:DeepSeek
應(yīng)用方案一體機(jī)科大訊飛:"星火+DeepSeek
雙引擎一體機(jī)"拓維信息:拓維信息智能數(shù)據(jù)標(biāo)注一體機(jī)協(xié)創(chuàng)數(shù)據(jù):Fcloud
DeepSeek
滿血版一體機(jī)麒麟信安:麒麟信安全國(guó)產(chǎn)化智算一體機(jī)亞康華創(chuàng)科技:D-BOX
Pro
桌面級(jí)智能一體機(jī)華為昇騰:昇騰DeepSeek
推理一體機(jī)聯(lián)想集團(tuán):智能體一體機(jī)與訓(xùn)推一體服務(wù)器釘釘科技:專屬
AI
一體機(jī)新華三:
DeepSeek智能一體機(jī)寶得:DeepSeek一體化智能設(shè)備中國(guó)電信:息壤智算一體機(jī)-DeepSeek
版中國(guó)移動(dòng):智算一體機(jī)-DeepSeek
版中國(guó)聯(lián)通:DeepSeek一體機(jī)柏飛電子:DeepSeek
加固式一體機(jī)京東云:DeepSeek
大模型一體機(jī)華能振宇:天巡
DeepSeek
大模型一體機(jī)昆侖技術(shù):
DeepSeek
本地化
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2024年八年級(jí)歷史下冊(cè) 第三單元 建設(shè)中國(guó)特色社會(huì)主義 第10課《科學(xué)技術(shù)的發(fā)展》教學(xué)實(shí)錄 華東師大版
- 唐山市灤縣二中高一期中考試歷史試卷
- 學(xué)校衛(wèi)生保健工作總結(jié)
- 熱力公司工作總結(jié)
- 醫(yī)院檢驗(yàn)科個(gè)人工作總結(jié)
- 2025上海市商業(yè)店鋪?zhàn)赓U合同(合同版本)
- 二零二四年第一季度種鴿交易電子合同模板本回滾預(yù)案
- 2025健身中心結(jié)構(gòu)性鋼網(wǎng)架建設(shè)施工合同
- 2025個(gè)人消費(fèi)類抵押貸款合同
- 辦公寫字樓租賃合同范本
- 決策與協(xié)調(diào)機(jī)制制度
- 心理咨詢保密協(xié)議(2024版)
- 土地整治項(xiàng)目工程復(fù)核工作流程
- 勞動(dòng)合同到期不續(xù)簽證明
- 水文資料在線整編規(guī)范
- DZ∕T 0222-2006 地質(zhì)災(zāi)害防治工程監(jiān)理規(guī)范(正式版)
- 2024屆高考語言運(yùn)用之比較賞析句子的表達(dá)效果+
- 施工現(xiàn)場(chǎng)動(dòng)火作業(yè)安全(旁站記錄)
- 工程變更通知單ECN模板-20220213
- 2024武漢六校聯(lián)考高一(下)期中數(shù)學(xué)試卷及解析
- 課本劇哈姆雷特劇本
評(píng)論
0/150
提交評(píng)論