【山東大學】2025年DeepSeek應用與部署

山東大學經(jīng)濟學院教授山東大學國家治理研究院研究員李鐵崗聽聽真我數(shù)字人講DeepSeekAIGC發(fā)展歷程AIGC2014-2024自然語言處理與語言模型大語言模型LLM：2018—2024（Multi-HeadLatentAttention）DeepSeek：技術創(chuàng)新—模型架構|V3PPO：ProximalPolicyOptimizationGRPO：GroupRelativePolicyOptimization?1.基礎能力層多模態(tài)數(shù)據(jù)融合與結構化理解，包括跨模態(tài)語義對齊（文本、圖像、音頻、視頻、代碼、傳感器數(shù)據(jù)統(tǒng)一語義）和動態(tài)數(shù)據(jù)治理（解決數(shù)據(jù)缺失、噪音干擾、概念飄逸等支持200多種數(shù)據(jù)格式自動解析。?2.中級能力層領域問題建模與復雜推理，包括領域自適應學習（建立醫(yī)、教育、金融垂直應用于模型）、因果推理引擎（建立因果圖模型）和多目標優(yōu)化決策（求解帕累托最有解）。?3.高級能力層復雜系統(tǒng)建模與自主決策，包括數(shù)字孿生仿真系統(tǒng)（構建物理于數(shù)字融合虛擬環(huán)境模擬天氣等）、多智能體協(xié)同優(yōu)化（將每個個體作為智能體通過聯(lián)邦學習模擬群體行為）和元認知調(diào)控機制（實施監(jiān)控自身決策、動態(tài)分配資源、自動觸發(fā)行為）。?4.終極能力層自主進化與創(chuàng)造性突破，包括概念空間探索（通過對抗網(wǎng)絡探索新合金成分等）、范式轉移預警（監(jiān)控跨領域知識流、識別技術革命前兆）和自編程能力（自動模塊設計、代碼編寫、測試用例）。DeepseekV3DeepseekR1DeepSeek提示詞工程提示詞工程Deepseek十類提示詞Deepseek模型及蒸餾模型Deepseek模型及蒸餾模型DeepseekAPIAPI及蒸餾模型本地網(wǎng)絡調(diào)用本地網(wǎng)絡調(diào)用API及蒸餾模型API及蒸餾模型移動手機應用本地部署蒸餾小模型第三方UI客戶管接入服務云端網(wǎng)站接入服務?本地部署蒸餾小模型：可通過ollama平臺、LMStudio平臺快速本地部署基于Llama和Qwen蒸餾的DeepSeek-R1推理模型，涵蓋多種不同參數(shù)規(guī)模，適合想在本地運行模型的用戶。?第三方UI客戶管接入服務：可通過AnythingLLM、CherryStudio、Chatbox等選擇API接入。?秘塔AI搜索：接入滿血版DeepSeek-R1推理模型，無廣告且搜索結果直達。以學習JDK21新特性為例，能詳細給出學習計劃，包括快速預覽、深入學習核心特性、實戰(zhàn)與總結等階段。?硅基流動：注冊即送2000萬Tokens，提供多個基于DeepSeek-R1蒸餾訓練的模型，如DeepSeek-?阿里云百煉：提供多個DeepSeek系列模型，如DeepSeek-V3、DeepSeek-R1-Distill-Qwen-1.5B等，部分限時免費，涵蓋文本生成等功能。?百度智能云：千帆ModelBuilder全面支持DeepSeek-R1/V3調(diào)用，且限時免費，其模型在百科知識、數(shù)學推理等任務表現(xiàn)突出。?英偉達：可通過特定接口調(diào)用DeepSeek-R1671B全量模型，獲取APIKey后能進行相關操作。API調(diào)用方法?token是模型用來表示自然語言文本的基本單位，也是我們的計費單元，可以直觀的理解為“字”或“詞”；通常1個中文詞語、1個英文單詞、1個數(shù)字?一般情況下模型中token和字數(shù)的換算比例大致如下：?但因為不同模型的分詞不同，所以換算比例也存在差異，每一次實際處理token數(shù)量以模型返回為準，您可以從返回結果的usage中查看。阿里云部署Deepseek以DeepSeek-R1滿血版為例進行演示，通過百煉模型服務進行DeepSeek開據(jù)實際需求選擇其他參數(shù)規(guī)模的DeepSeek模型。百煉平臺的API提供標準化接口，無需自行搭建https://chatboxai.app/zh#downloadDeepSeekDeepSeekDeepSeekDeepSeek-R1DeepSeek-V3Ditill-Qwen-1.5BDeepSeek-R1DeepSeek-V3Ditill-Qwen-14BDitill-Qwen-32BDitill-Qwen-7BDistill-Ollama-7BDitill-Ollama-7B騰訊云API調(diào)用企業(yè)級首選，DeepSeek部署穩(wěn)定、安全、易用！騰訊云智能全棧AI服務上架DeepSeek系列模型創(chuàng)建應用華為云+silconflow通過創(chuàng)建APIkey調(diào)用華為云模型微調(diào)模型微調(diào)工程DeepSeek：推理模型|推理能力蒸餾學生模型DeepSeek蒸餾模型學生模型老師模型模型蒸餾工程本低）?！澳Ｐ驼麴s”就是把大模型學到的本領，用“濃縮”的方式教給小模型的過程，在保證一定精度的同時，大幅降低運算成本和硬件要求。?蒸餾是一種機器學習技術，其中較小的模型（“學生模型”）被訓練來模仿較大、預訓練模型（“教師模型”）的行為。終的預測。這種方法保留了更多關于教師模型置信水平和決策?3.特征蒸餾特征蒸餾涉及將教師模型中間層的知識蒸餾：是學生通過模仿老師的解題思路，達到和老師相似的知識水平。微調(diào)：又叫精調(diào)，相當于學生意識到自己某門課有短板，然后自己找參考書惡補了一下，從而補上短板。RAG：直譯過來叫做“檢索增強生成”。相當于這題我不會，但是我有“小抄”，我回答的時候，就看一眼小抄，然后再綜合我腦子里的已有知識，進行回答。DeepSeek本地部署-硬件環(huán)境準備1.GPU要求推薦NVIDIA顯卡（RTX3090/4090/A100等）顯存要求：■7B模型：至少16GB顯存■13B/20B模型：至少24GB顯存■70B模型：需多卡并行（如2xA100）支持CUDA11.7+和cuDNN8.5+2.系統(tǒng)要求Linux（Ubuntu20.04+）或WindowsWSL2Python3.8+，推薦使用Anaconda/Miniconda管理環(huán)境DeepSeek本地部署-部署辦法方法1：使用HuggingFaceTransformers方法2：使用vLLM加速推理方法3：Docker部署）：）：）：本地部署方法Ollama下載模型DeepSeek模型OllamaOllama下載模型DeepSeek模型LMStudio+DeepSeekAnythingLM+Ollama+Deepseek+向Ollama調(diào)用模型下載模型DeepSeek模型AnythingOllama調(diào)用模型下載模型DeepSeek模型Ollama?前期準備：確保設備滿足一定硬件要求，顯卡需GTX1060（6GB）及以上，推薦RTX3060及以上；內(nèi)存8GB及以上，推薦16GB及更高；C盤剩余20GB空間，建議使用NVMe固態(tài)硬盤。?安裝LMStudio客戶端：在官網(wǎng)lmstudio.ai下載對應操作系統(tǒng)的安裝包，雙擊運行并按提示完成安裝。啟動后，點擊右下角設置圖標將語言改為簡體中文。?加載模型：自行下載獲取模型，下載到本地后，點擊左上方文件夾圖標選擇模型目錄導入；若不會找模型，可在LMStudio的設置里，勾選“UseLMStudio'sHuggingFace”，再點擊左上方搜索圖標搜索deepseek選擇模型。注意參數(shù)規(guī)模不同，性能和硬件需求有差異。例如，1.5B適合體驗嘗鮮，7B適合普通創(chuàng)作及開發(fā)測試，8B適合對內(nèi)容要求更高的場景，14B適合專業(yè)及深度內(nèi)容創(chuàng)作。LMStudio+DeepSeekLMStudio可以通過huggaface下載Deepseek各種蒸AnythingLM+Ollama+DeepseekLLM首選項向量數(shù)據(jù)庫Embedder首選項文本分割RAG中的Embedding模型Embedding模型貫穿RAG流程多環(huán)節(jié)CherryLM+DeepSeekAPI大模型智能體工程五大AIAgent多智能體開發(fā)框架微軟AutoGen：LangGraph：Github地址：https://giCrewAI微軟/microsmain/python/packages/autogOpenAISwarm：DeepSeek業(yè)務流應用DeepSeek業(yè)務流應用?Dify+DeepseekAPI搭建本地知識庫?Langchain+DeepseekAPI業(yè)務流工程2025七款RAG?2.Cognita：官網(wǎng)：/?4.LangChain：官網(wǎng)：h?官網(wǎng)：https://haystack.deepset.ai/、?GitHub主頁：/neuml/txtaiDeepSeek賦能各行業(yè)的應用場景?1.DeepSeek賦能酒企場景-市場分析與消費者洞察-智能營銷與個性化推薦-生產(chǎn)優(yōu)化與質(zhì)量控制-供應鏈管理與庫存優(yōu)化-智能客服與消費者互動-新品研發(fā)與口味預測?2.DeepSeek賦能房產(chǎn)裝修-智能設計與方案生成-施工進度管理與優(yōu)化-材料采購與供應鏈優(yōu)化-客戶需求分析與個性化服務-智能客服與售后支持-裝修質(zhì)量檢測與問題預測-市場趨勢分析與營銷策略優(yōu)化?3.DeepSeek賦能知識產(chǎn)權服務-侵權檢測與風險評估-知識產(chǎn)權法律咨詢-知識產(chǎn)權交易與估值-知識產(chǎn)權管理與監(jiān)控-知識產(chǎn)權培訓與教育-知識產(chǎn)權戰(zhàn)略規(guī)劃?4.DeepSeek賦能金融行業(yè)-智能投顧與投資分析-風險管理與欺詐檢測-客戶服務與智能客服-信用評分與貸款審批-市場趨勢分析與預測-金融產(chǎn)品設計與定價-合規(guī)管理與報告生成?5.DeepSeek賦能跨境貿(mào)易-市場分析與需求預測-供應鏈優(yōu)化與物流管理-跨境支付與匯率風險管理-合規(guī)管理與海關申報-多語言客戶服務與溝通-貿(mào)易伙伴匹配與談判支持-