計(jì)算機(jī)行業(yè)：向量數(shù)據(jù)庫(kù)-AIGC時(shí)代的必備基礎(chǔ)工具

7%-4%12/2202/2304/2306/2308/2310/237%-4%12/2202/2304/2306/2308/2310/23計(jì)算機(jī)行業(yè)計(jì)算機(jī)行業(yè)核心觀點(diǎn)：本增效的效果已有所顯現(xiàn)。ChatGPTPlug處理具有一定技術(shù)積累的基礎(chǔ)上，也于近期推出了向量數(shù)據(jù)庫(kù)產(chǎn)品。理的收費(fèi)模式將是各廠商在低滲透率的環(huán)境下獲客的關(guān)鍵。量數(shù)據(jù)庫(kù)領(lǐng)域的布局可能導(dǎo)致行業(yè)競(jìng)爭(zhēng)加劇；技術(shù)開源導(dǎo)致中小企業(yè)入局向量數(shù)據(jù)庫(kù)領(lǐng)域。相對(duì)市場(chǎng)表現(xiàn)39%29%-14% 計(jì)算機(jī)滬深300請(qǐng)注意，周源并非香港證券及期貨事務(wù)監(jiān)察委員會(huì)的注冊(cè)持牌人，不可在香港從事受監(jiān)管活動(dòng)。整報(bào)告日期合理價(jià)值（元/股） 二、向量數(shù)據(jù)庫(kù)處于商業(yè)化早期階段，隨各行業(yè)智能化升級(jí)而快速成長(zhǎng) 45 8 9 9 40 41 42 43圖39：基于阿里云使用Zilliz向量數(shù)據(jù)庫(kù)服務(wù)的流程示意圖.......... 表9：星環(huán)科技數(shù)據(jù)分析大模型建設(shè)項(xiàng)目相關(guān)產(chǎn)品定價(jià) 投資要點(diǎn)：隨著AI大模型的發(fā)展，向量數(shù)據(jù)庫(kù)已成為賦能MLOps各環(huán)節(jié)必備的軟件基礎(chǔ)設(shè)施。算力集群規(guī)模持續(xù)擴(kuò)大的趨勢(shì)下，從數(shù)據(jù)到模型的全生命周期管理需要更加專業(yè)的軟件工具用于生產(chǎn)效率的提升、流程的優(yōu)化和成本的節(jié)省。其中向量數(shù)據(jù)庫(kù)具備的快速檢索、混合存儲(chǔ)、向量嵌入等能力很好的解決了AI大模型在MLOps過程中存在向量數(shù)據(jù)庫(kù)是開發(fā)和應(yīng)用AI大模型過程中必備的軟件基礎(chǔ)設(shè)施。向量數(shù)據(jù)庫(kù)是專門它通常采用基于向量相似度的查詢方式，即根據(jù)向量之間的相似度來檢索數(shù)據(jù)。這一功能特點(diǎn)不僅使得其可以提升訓(xùn)練過程中特征提取和數(shù)據(jù)檢索等任務(wù)的效率，還向量數(shù)據(jù)庫(kù)為代表的工具類軟件有效解決了AI大模型全生命周期管理中的痛點(diǎn)，是從實(shí)際應(yīng)用案例來看，向量數(shù)據(jù)庫(kù)在AI大模型的訓(xùn)練和推理過程中降本增效的效果Qdrant向量數(shù)據(jù)庫(kù)產(chǎn)品與Pienso合作，已經(jīng)實(shí)現(xiàn)在開源AI大模型的基礎(chǔ)上開發(fā)私域AI應(yīng)用的發(fā)展正逐步由點(diǎn)擴(kuò)散到面，各領(lǐng)域智能化升級(jí)的快速進(jìn)展將大大增強(qiáng)向量數(shù)據(jù)庫(kù)領(lǐng)域早期的探索，主要是以Zilliz、Weaviate和Pinecone等初創(chuàng)型公司引領(lǐng)。據(jù)庫(kù)產(chǎn)品多以開源的形式培育社區(qū)生態(tài)，以及上云的方式擴(kuò)大用戶覆蓋面。隨著向量數(shù)據(jù)庫(kù)在AI大模型中應(yīng)用的重要性逐漸被挖掘，各廠商加大了該領(lǐng)域的研發(fā)。以騰訊云、華為云和星環(huán)科技為代表的廠商在非結(jié)構(gòu)化數(shù)據(jù)的向量檢索工具已經(jīng)具有一定技術(shù)積累的基礎(chǔ)上，也于近期推出了向量數(shù)據(jù)庫(kù)產(chǎn)品。向量數(shù)據(jù)庫(kù)行業(yè)有望隨各行業(yè)智能化升級(jí)而快速成長(zhǎng)。在技術(shù)方面，Zilliz和Weaviate將技術(shù)開源一方面推動(dòng)了整體行業(yè)的進(jìn)步，另一方面也縮小了行業(yè)內(nèi)公司在商業(yè)化方面，向量數(shù)據(jù)庫(kù)行業(yè)還處于市場(chǎng)培育期，Zilliz、Pinecone和騰訊云產(chǎn)品拓展過程有望加速，各行業(yè)用戶付費(fèi)意愿有望提升。未來，向量數(shù)據(jù)庫(kù)商業(yè)化的節(jié)奏取決于各行業(yè)客戶使用AI大模型的實(shí)際需求以及其在AI大模型技術(shù)中應(yīng)用的向量數(shù)據(jù)庫(kù)處于產(chǎn)品化和商業(yè)化的早期階段，配合標(biāo)準(zhǔn)化產(chǎn)品的技術(shù)服務(wù)是關(guān)鍵。向量數(shù)據(jù)庫(kù)發(fā)展時(shí)間較短，相應(yīng)功能難以廣泛滿足各行業(yè)需求，在商業(yè)化落地過程技術(shù)服務(wù)的及時(shí)性和專業(yè)性將是向量數(shù)據(jù)庫(kù)公司新客拓展、老客留存的關(guān)鍵。我們中更具優(yōu)勢(shì)。相較于初創(chuàng)型的公司，星環(huán)科技已擁有410人的技術(shù)支持團(tuán)隊(duì)（截至2022年12月底對(duì)于新產(chǎn)品的市場(chǎng)推廣、商業(yè)化策略制定以及客戶溝通云計(jì)算公司擁有的AI大模型以及海量非結(jié)構(gòu)化數(shù)據(jù)為其向量數(shù)據(jù)庫(kù)產(chǎn)品打磨和應(yīng)用云計(jì)算公司開發(fā)的向量數(shù)據(jù)庫(kù)在滿足其自研的AI大模型業(yè)務(wù)和海量數(shù)據(jù)檢索的需求的同時(shí)，也提升了產(chǎn)品性能，實(shí)踐了具體場(chǎng)景中的應(yīng)用效果，為其對(duì)外提供服務(wù)打再到一定市場(chǎng)份額的發(fā)展，能夠享受更多下游快速滲透帶來的機(jī)會(huì)，而同行競(jìng)爭(zhēng)帶未來，針對(duì)各場(chǎng)景需求特點(diǎn)，結(jié)合AI大模型的能力開發(fā)出滿足行業(yè)用戶需求的向量數(shù)據(jù)庫(kù)產(chǎn)品，以及根據(jù)實(shí)際產(chǎn)業(yè)趨勢(shì)制定合理的收費(fèi)模式將是各廠商在低滲透率的中長(zhǎng)期來看，云計(jì)算公司和數(shù)據(jù)庫(kù)廠商也存在合作的可能性。從海外的經(jīng)驗(yàn)來看，以及產(chǎn)品線的延長(zhǎng)，其在各個(gè)技術(shù)應(yīng)用領(lǐng)域的需要尋求合作伙伴共同拓展業(yè)務(wù)。例商業(yè)化落地。我們認(rèn)為，若第三方向量數(shù)據(jù)庫(kù)公司的產(chǎn)品具有足夠的競(jìng)爭(zhēng)力，可以實(shí)現(xiàn)對(duì)相關(guān)軟硬件基礎(chǔ)設(shè)施的連帶銷售效果，云計(jì)算公司與其實(shí)現(xiàn)資源互補(bǔ)、產(chǎn)業(yè)合作的可能性將大大增加。投資建議：推薦星環(huán)科技。風(fēng)險(xiǎn)提示：商業(yè)化落地受下游應(yīng)用拉動(dòng)，兌現(xiàn)尚需時(shí)間；科技巨頭在向量數(shù)據(jù)庫(kù)領(lǐng)一、向量數(shù)據(jù)庫(kù)為AI大模型全生命周期管理提質(zhì)增效隨著AI大模型的發(fā)展，向量數(shù)據(jù)庫(kù)已成為賦能MLOps各環(huán)節(jié)必備的軟件基礎(chǔ)設(shè)施。據(jù)量不斷增多，算力集群規(guī)模持續(xù)擴(kuò)大的趨勢(shì)下，從數(shù)據(jù)到模型的全生命周期管理需要更加專業(yè)的軟件工具用于生產(chǎn)效率的提升、流程的優(yōu)化和成本的節(jié)省。其中向量數(shù)據(jù)庫(kù)具備的快速檢索、混合存儲(chǔ)、向量嵌入等能力很好的解決了AI大模型在MLOps過程中存在的知識(shí)時(shí)效性低、輸入能力有限、回答問題準(zhǔn)確度低等問題，未來發(fā)展前景廣闊。AI大模型的訓(xùn)練和推理各環(huán)節(jié)過程復(fù)雜、步驟較多，需要統(tǒng)一的軟件工具鏈進(jìn)行管型測(cè)試、訓(xùn)練監(jiān)控、生產(chǎn)部署等環(huán)節(jié)，任何一個(gè)環(huán)節(jié)出現(xiàn)問題亦或不同環(huán)節(jié)之間的53%的項(xiàng)目能夠從AI原型轉(zhuǎn)化為生產(chǎn)，AI生產(chǎn)轉(zhuǎn)化率低的主要原因在于模型全鏈路生命周期管理存在跨團(tuán)隊(duì)協(xié)作難度大、過程和資產(chǎn)管理欠缺、生產(chǎn)和交付周期長(zhǎng)等問題。因此，開發(fā)從數(shù)據(jù)到模型，貫通從開發(fā)到部署等多環(huán)節(jié)統(tǒng)一的流水線軟件MLOps是保障AI模型生產(chǎn)和管理的穩(wěn)定性、持續(xù)性、規(guī)?；托实年P(guān)鍵。保證模型在生產(chǎn)過程中的連續(xù)性。MLOps的系統(tǒng)框架不是簡(jiǎn)單的線性推進(jìn)，而是各復(fù)進(jìn)行數(shù)據(jù)收集和準(zhǔn)備、模型開發(fā)和訓(xùn)練、模型驗(yàn)證和測(cè)試等步驟，以不斷對(duì)模型各個(gè)環(huán)節(jié)都有對(duì)應(yīng)的軟件實(shí)現(xiàn)效率的提升。這些軟件和工具在各環(huán)節(jié)發(fā)揮著重要的點(diǎn)問題并形成需求，交付于數(shù)據(jù)科學(xué)家進(jìn)行對(duì)接；數(shù)據(jù)科學(xué)家通過需求文檔初步建的有效溝通下對(duì)方案多次修改直到達(dá)成一致，以確保業(yè)務(wù)需求被正確認(rèn)知，建模方案可行而高效，避免不同角色對(duì)于需求的理解不一致及風(fēng)險(xiǎn)不可控等問題，從源頭器學(xué)習(xí)算法進(jìn)行建模。特征選擇也是模型性能的關(guān)鍵，需要從所有可用的特征中選擇最相關(guān)的特征子集用于模型訓(xùn)練，減少?gòu)?fù)雜性，提高模型性能，并減少過擬合的模型可以根據(jù)最新的數(shù)據(jù)和反饋進(jìn)行更新和優(yōu)化。測(cè)試階通常構(gòu)造一組測(cè)試數(shù)據(jù)來常值敏感。器學(xué)習(xí)模型部署到生產(chǎn)環(huán)境，以便它可以開始為實(shí)際業(yè)務(wù)問題提供預(yù)測(cè)。它將模型這要求IT運(yùn)維定期檢查模型的預(yù)測(cè)性能，以確保它仍然滿足業(yè)務(wù)需求;監(jiān)控模型服務(wù)），監(jiān)控模型的數(shù)據(jù)漂移，避免因?yàn)檩斎霐?shù)據(jù)的分布變化導(dǎo)致模型性能隨著時(shí)間的推移而下降。運(yùn)維監(jiān)控是一個(gè)持續(xù)的過程，它需要在模型的整個(gè)生命周期中進(jìn)行，以確保模型的持續(xù)性能和健康狀況。表1：MLOps的生命周期每個(gè)階段的主要輸入、主要步驟以及主要輸出內(nèi)容1)將業(yè)務(wù)需求轉(zhuǎn)為技術(shù)問題，確定使用機(jī)器學(xué)習(xí)過程需要的數(shù)據(jù)，以及數(shù)據(jù)處理過程和規(guī)則（例如，數(shù)程、模型訓(xùn)練及模型服務(wù)的代碼1)接入并提取原始數(shù)據(jù)，包括流數(shù)據(jù)、靜態(tài)批處理數(shù)據(jù)或模型開發(fā)置發(fā)多輪模型訓(xùn)練，不斷調(diào)整和選擇性能最優(yōu)算法和超參數(shù)。3)對(duì)不同模型參數(shù)進(jìn)行交叉腳本、模型服務(wù)標(biāo)模型測(cè)試據(jù)、特征。據(jù)模型實(shí)驗(yàn)階段已選擇的算法和超參數(shù)，對(duì)新數(shù)據(jù)進(jìn)行自動(dòng)訓(xùn)練。4)執(zhí)行自動(dòng)化的模型報(bào)告，產(chǎn)品發(fā)布運(yùn)維監(jiān)控各類指標(biāo)數(shù)據(jù)值A(chǔ)I大模型對(duì)MLOps提出了更高要求。相較于普通的AI模型，AI大模型的訓(xùn)練復(fù)雜。例如，如何將模型分布式部署到多個(gè)節(jié)點(diǎn)上、如何保證模型的穩(wěn)定性和可靠從頭開始訓(xùn)練，而是選擇一個(gè)通用性基礎(chǔ)較好的、開源的預(yù)訓(xùn)練模型，在其基礎(chǔ)上評(píng)估測(cè)試等，各環(huán)節(jié)的耗時(shí)都取決于數(shù)據(jù)量、模型復(fù)雜度以及評(píng)估指標(biāo)的選擇。因此數(shù)據(jù)處理工具、軟件平臺(tái)架構(gòu)的選擇對(duì)于AI大模型的開發(fā)有關(guān)鍵作用。過程中，存在由于用戶提問方式不直接，給出的提示詞較為模糊，導(dǎo)致生成內(nèi)容質(zhì)高提示詞與回答內(nèi)容之間匹配度已成為AI大模型的重要發(fā)展4.人工反饋對(duì)于AI大模型通用性效果的提升有關(guān)鍵作用：在模型的評(píng)估測(cè)試環(huán)節(jié)，從而提升AI大模型整體的通用性。表2：AI大模型的屬性對(duì)MLOps過程中的影響各場(chǎng)景通用性較強(qiáng)：AI大模型在預(yù)先學(xué)習(xí)了各場(chǎng)景海量數(shù)據(jù)上，其包含了具有通用共性特征的底層卷積層，這部分有的、第三方的或開源的模型開始，以自定義微開發(fā)階段：超大規(guī)模計(jì)算集群的模型訓(xùn)練需要分理解用戶真實(shí)需求是人機(jī)交互體驗(yàn)的關(guān)鍵：許多AI大模型可以通過向量數(shù)據(jù)庫(kù)是開發(fā)和應(yīng)用AI大模型過程中必備的軟件基礎(chǔ)設(shè)施。針對(duì)AI大模型的MLOps在架構(gòu)方面的設(shè)計(jì)考慮了海量多源數(shù)據(jù)的訓(xùn)練、預(yù)訓(xùn)練大模型的導(dǎo)入以及大在訓(xùn)練數(shù)據(jù)方面，由于所需處理的數(shù)據(jù)量較為龐大、類型更加復(fù)雜，向量數(shù)據(jù)庫(kù)是提升訓(xùn)練和推理效率必備的工具軟件。AI大模型在大規(guī)模計(jì)算集群的環(huán)境下進(jìn)行訓(xùn)發(fā)和應(yīng)用AI大模型過程中必備的軟件基礎(chǔ)設(shè)施。導(dǎo)入過程中，向量數(shù)據(jù)庫(kù)可以將不同類型的非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行清洗、篩選并轉(zhuǎn)化為統(tǒng)一的向量嵌入格式，便于各類數(shù)據(jù)的交互和計(jì)算。在特征提取階段，向量數(shù)據(jù)庫(kù)在模型構(gòu)建環(huán)節(jié)，向量數(shù)據(jù)庫(kù)也可以在微調(diào)和剪枝等環(huán)節(jié)減少訓(xùn)練數(shù)據(jù)量，節(jié)省訓(xùn)全向量數(shù)據(jù)庫(kù)在AI大模型訓(xùn)練和推理過程中有較大的應(yīng)用空間。向量數(shù)據(jù)庫(kù)是專門用于存儲(chǔ)和管理向量數(shù)據(jù)，其主要特點(diǎn)是能夠高效地存儲(chǔ)和查詢大規(guī)模的向量數(shù)據(jù)。它通常采用基于向量相似度的查詢方式，即根據(jù)向量之間的相似度來檢索數(shù)據(jù)。這一功能特點(diǎn)不僅使得其可以提升訓(xùn)練過程中特征提取和數(shù)據(jù)檢索等任務(wù)的效率，還在推理過程中有效保護(hù)用戶隱私數(shù)據(jù)、保障應(yīng)用過程的數(shù)據(jù)安全性。針對(duì)海量和多源訓(xùn)練數(shù)據(jù)，向量數(shù)據(jù)庫(kù)統(tǒng)一數(shù)據(jù)格式，為訓(xùn)練任務(wù)效率提升打好基一個(gè)固定長(zhǎng)度的向量。轉(zhuǎn)化后的向量數(shù)據(jù)不僅統(tǒng)一了數(shù)據(jù)格式，便于各類型數(shù)據(jù)之?dāng)?shù)據(jù)搜索的過程往往耗時(shí)較長(zhǎng)。向量數(shù)據(jù)庫(kù)通過ANN（ApproximateNearest數(shù)據(jù)庫(kù)允許用戶只更新部分?jǐn)?shù)據(jù)，而不是整個(gè)數(shù)據(jù)集。這可以節(jié)省大量的計(jì)算資源和時(shí)間，特別是在數(shù)據(jù)集很大且更新頻繁的情況下。類型的數(shù)據(jù)轉(zhuǎn)化成為向量嵌入的方式不同。對(duì)于文字類信息，在字詞的屬性（主謂賓）等較為固定的情況下，語(yǔ)句中的語(yǔ)義信息的提取和識(shí)別有規(guī)律可循。將標(biāo)點(diǎn)符號(hào)、不同屬性的字詞編碼，根據(jù)其在文中的作用對(duì)編碼反復(fù)進(jìn)行排列組合的訓(xùn)練即可以得到一組向量嵌入。而圖像類數(shù)據(jù)的編解碼難度更大。圖像數(shù)據(jù)是大量像素排列組合而成的，不僅單個(gè)像素的固定屬性難以確定，其排列組合的方式也無(wú)規(guī)律可入數(shù)據(jù)開始訓(xùn)練的過程更加復(fù)雜。庫(kù)支持不同類型數(shù)據(jù)導(dǎo)入AI模型訓(xùn)練中，解決了此前針對(duì)不同類型的數(shù)據(jù)導(dǎo)入需要的神經(jīng)網(wǎng)絡(luò)中進(jìn)行訓(xùn)練，其輸出結(jié)果為具有標(biāo)識(shí)的統(tǒng)一格式的向量，可以被深層的神經(jīng)網(wǎng)絡(luò)識(shí)別。由于AI大模型的訓(xùn)練涉及的數(shù)據(jù)量龐大，向量嵌入的方式可有效提過程中，原始數(shù)據(jù)轉(zhuǎn)換為向量數(shù)據(jù)后更好的適應(yīng)了AI計(jì)算中涉及大量的矩陣運(yùn)算。向量化后的數(shù)據(jù)將單一維度的運(yùn)算擴(kuò)展到高維度的矩陣運(yùn)算，從而提升單次運(yùn)算能于特征提取、抽象化等都有很好的性能滿足。此外，向量數(shù)據(jù)庫(kù)還可以提供快速隨向量數(shù)據(jù)庫(kù)在企業(yè)用戶隱私保護(hù)和推理任務(wù)準(zhǔn)確性方面有突出表現(xiàn)。在AI大模型應(yīng)防止企業(yè)隱私信息泄露。在這一過程中，向量數(shù)據(jù)庫(kù)作為通用AI大模型和企業(yè)私域數(shù)據(jù)間的橋梁，可以有效滿足用戶這一需求。其次，融合了最新資料和專業(yè)知識(shí)的向量數(shù)據(jù)庫(kù)可有效解決通用的AI大模型知識(shí)的時(shí)效低、輸入能力有限以及準(zhǔn)確度低最新的數(shù)據(jù)來回答問題，但大模型的訓(xùn)練語(yǔ)料在時(shí)效性上有一定局限。此外，企業(yè)和微調(diào)階段。在此情況下，向量數(shù)據(jù)庫(kù)可以充當(dāng)外掛知識(shí)庫(kù)，為大模型提供最新數(shù)據(jù)或者企業(yè)客戶獨(dú)有的內(nèi)部知識(shí)庫(kù)。通過從知識(shí)庫(kù)中檢索與輸入相關(guān)的信息，作為上下文和問題一起輸入給AI大模型，基于信息生成答案，可以提升大模型的時(shí)效性記錄客戶端和大模型之間的對(duì)話信息，接收到新的消息時(shí)可以從整個(gè)歷史會(huì)話記錄中檢索與當(dāng)前消息相關(guān)的人機(jī)交互信息，為大模型提供長(zhǎng)期記憶。因此可以突破大語(yǔ)言模型對(duì)Token數(shù)的限制，避免上下文信息丟失的問題。表3：向量數(shù)據(jù)庫(kù)在AI大模型推理應(yīng)用中的具體功能提供外掛知識(shí)庫(kù)提供長(zhǎng)期記憶提供緩存能力4.Prompt輸入至LLM生成響應(yīng)儲(chǔ)的嵌入并傳遞給查詢LLM據(jù)庫(kù)中練/微調(diào)、相較于微調(diào)成本更低、實(shí)時(shí)性提高性能、優(yōu)化計(jì)算資源和通過互聯(lián)網(wǎng)公開數(shù)據(jù)訓(xùn)練的通用AI大模型難以覆蓋專業(yè)性較強(qiáng)以及最新的新聞數(shù)據(jù)。而用戶可以將最新資料和專業(yè)知識(shí)存入向量數(shù)據(jù)庫(kù)中，外接到通用AI大模型來解決據(jù)作為訓(xùn)練語(yǔ)料。向量數(shù)據(jù)庫(kù)的實(shí)時(shí)更新、靈活編輯以及隱私保護(hù)的特點(diǎn)較好的彌補(bǔ)了通用AI大模型的缺陷。在ChatGPT的插件系統(tǒng)中，用戶即可在外接的向量數(shù)據(jù)們認(rèn)為，外接的向量數(shù)據(jù)庫(kù)可以將用戶特定信息融入到交互內(nèi)容中，不僅大大拓展圖12：Weaviate向量數(shù)據(jù)庫(kù)嵌入ChatGPTAI大模型可以更好的理解用戶的搜索意圖，并將搜索請(qǐng)求擴(kuò)展到相關(guān)領(lǐng)域的信息，布式環(huán)境中,向量數(shù)據(jù)庫(kù)還具有高效的并行計(jì)算能力，可以充分利用硬件資源步加快推理速度，以應(yīng)對(duì)海量數(shù)據(jù)的處理需求。在應(yīng)用階段，AI大模型存在較多的向量相似性搜索需求。AI大模型和用戶交互的信大模型識(shí)別和理解，之后這一組向量數(shù)據(jù)需要遍歷龐大的神經(jīng)網(wǎng)絡(luò)，搜索與之對(duì)應(yīng)的另一組向量數(shù)據(jù)后才能生成用戶想要的文字。向量搜索的過程往往耗時(shí)較長(zhǎng)，可能會(huì)影響到即刻需要得到內(nèi)容生成的用戶體驗(yàn)。而向量數(shù)據(jù)庫(kù)通過ANN算法給不同從實(shí)際應(yīng)用案例來看，向量數(shù)據(jù)庫(kù)在AI大模型的訓(xùn)練和推理過程中降本增效的效果已有所顯現(xiàn)。Pinecone、Weaviate等向量Qdrant向量數(shù)據(jù)庫(kù)產(chǎn)品與Pienso合作，已經(jīng)實(shí)現(xiàn)在開源AI大模型的基礎(chǔ)上開發(fā)私域1.向量數(shù)據(jù)庫(kù)已應(yīng)用于數(shù)據(jù)清洗、向量嵌入轉(zhuǎn)換、私域大模型開發(fā)等訓(xùn)練過程去重。Atlas首先對(duì)文本語(yǔ)料庫(kù)進(jìn)行語(yǔ)義層面的分析，性的數(shù)據(jù)進(jìn)行聚類，并以向量形式嵌入到可視化地圖上。在可視化的界面中，用戶可使用工具對(duì)數(shù)據(jù)進(jìn)行標(biāo)注，根據(jù)業(yè)務(wù)需要，對(duì)特定類別數(shù)據(jù)進(jìn)行清洗和篩選。之?dāng)?shù)據(jù)進(jìn)行分類、標(biāo)注和清理，優(yōu)化數(shù)據(jù)集，從而有效提高AI模型的訓(xùn)練效率。與向量數(shù)據(jù)庫(kù)Qdrant合作，為客戶提供私域大模型解決方案。用戶可以基于私有數(shù)據(jù)，使用簡(jiǎn)單的可視化界面在各種流行的開源模型上開發(fā)定制AI模型。通過向量數(shù)理解對(duì)話或文檔，產(chǎn)生貼近語(yǔ)境的輸出，以及加速用戶模型的訓(xùn)練和推理過程。在用戶隱私和數(shù)據(jù)安全。在模型推理場(chǎng)景中，向量數(shù)據(jù)庫(kù)的高性能的向量存儲(chǔ)和檢索能力已經(jīng)在問答系統(tǒng)、（1）外掛知識(shí)庫(kù)：在外接的向量數(shù)據(jù)庫(kù)中可以預(yù)先增加和編輯特定信息，再通過速搜索，實(shí)現(xiàn)反向圖像搜索、對(duì)象檢測(cè)、人臉比對(duì)等任務(wù)；數(shù)據(jù)來源：阿里云開發(fā)者社區(qū)，廣發(fā)證券發(fā)接口。用戶在外接的向量數(shù)據(jù)庫(kù)中可以預(yù)先增加和編輯特定信息，再通過ChatGPT調(diào)用該插件后實(shí)現(xiàn)對(duì)于特定問題的回答。我們認(rèn)為，外接的向量數(shù)據(jù)庫(kù)可以將用戶特定信息融入到交互內(nèi)容中，不僅大大拓展了AI大模型交互信息的范圍，還保證了答內(nèi)容效果示意接入向量數(shù)據(jù)庫(kù)的AI大模型已應(yīng)用于企業(yè)內(nèi)部數(shù)據(jù)的智能化和隱私保護(hù)。隨著向量工具不僅有效提升其人員招聘各流程的數(shù)據(jù)的搜索效率以及資源對(duì)接的精準(zhǔn)性，還保護(hù)企業(yè)用戶的數(shù)據(jù)不泄露給AI大模型作為訓(xùn)練預(yù)料。我們認(rèn)為，向量數(shù)據(jù)庫(kù)作為外掛知識(shí)庫(kù)接入AI大模型后能夠保護(hù)用戶隱私數(shù)據(jù)的能力被企業(yè)級(jí)客戶充分認(rèn)識(shí)和理解后，其有望得到大規(guī)模推廣。圖21：MongoDB的AtlasVectorSeach向量據(jù)庫(kù)公司Zilliz開發(fā)了一個(gè)開源工具OSSChat，整合了各開相關(guān)文檔作為數(shù)據(jù)源，并將這些數(shù)據(jù)轉(zhuǎn)換為向量存儲(chǔ)在向量數(shù)據(jù)庫(kù)中。當(dāng)用戶與金融科技公司ChipperCash在向量數(shù)據(jù)Pinecone的基礎(chǔ)上構(gòu)建了一套身份驗(yàn)證系將人臉圖像等身份信息轉(zhuǎn)換為向量并存儲(chǔ)在Pinecone向量數(shù)據(jù)庫(kù)中，通過對(duì)Pinecone向量數(shù)據(jù)庫(kù)的查詢返回前三個(gè)最優(yōu)匹配項(xiàng)，最后在后端進(jìn)行查詢以返回匹提升商品推薦的精準(zhǔn)度。向量數(shù)據(jù)庫(kù)將用戶的歷史行為、畫像和查詢等特征轉(zhuǎn)化為用戶特征向量，并與商品向量結(jié)合，通過計(jì)算相似度找到與用戶歷史行為或興趣相精確召回文檔，甚至出現(xiàn)與查詢無(wú)關(guān)的結(jié)果，但通過向量檢索，可以提前抽取商品和查詢的特征，并進(jìn)行向量的近似召回，有效匹配了用戶需求，提升了商品推薦準(zhǔn)圖24：向量數(shù)據(jù)庫(kù)為電子商務(wù)公司CRITEO企業(yè)應(yīng)用AI大模型的需求和數(shù)據(jù)隱私保護(hù)的要求共同保障了向量數(shù)據(jù)庫(kù)在垂直應(yīng)用類AI的應(yīng)用前景。通過觀察向量數(shù)據(jù)庫(kù)在AI大模型各場(chǎng)景的應(yīng)用，我們發(fā)現(xiàn)其不僅增強(qiáng)了AI大模型生成內(nèi)容的精準(zhǔn)性和及時(shí)性，還可以作為外掛知識(shí)庫(kù)應(yīng)用于垂直領(lǐng)域大模型的訓(xùn)練。隨著以ChatGPT為代表的通用AI大模型產(chǎn)品的成熟，各行業(yè)用戶基于通用AI大模型開發(fā)的智能化應(yīng)用帶來的降本增效的效果顯著。通用AI大模型被金在各行業(yè)智能化升級(jí)過程中，向量數(shù)據(jù)庫(kù)不僅可以將企業(yè)海量數(shù)據(jù)向量化后提升通用AI大模型應(yīng)用的時(shí)效性和精準(zhǔn)性，還可以保障企業(yè)隱私數(shù)據(jù)和信息不被通用AI大品的落地，AI應(yīng)用的發(fā)展正逐步由點(diǎn)擴(kuò)散到面，各領(lǐng)域智能化升級(jí)的快速進(jìn)展將大二、向量數(shù)據(jù)庫(kù)處于商業(yè)化早期階段，隨各行業(yè)智能化升級(jí)而快速成長(zhǎng)數(shù)據(jù)庫(kù)領(lǐng)域早期的探索，主要是以Zilliz、Weaviate和Pinecone等初創(chuàng)型公司引領(lǐng)。據(jù)庫(kù)產(chǎn)品多以開源的形式培育社區(qū)生態(tài)，以及上云的方式擴(kuò)大用戶覆蓋面。隨著向量數(shù)據(jù)庫(kù)在AI大模型中應(yīng)用的重要性逐漸被挖掘，各廠商加大了該領(lǐng)域的研發(fā)。以騰訊云、華為云和星環(huán)科技為代表的廠商在非結(jié)構(gòu)化數(shù)據(jù)的向量檢索工具已經(jīng)具有一定技術(shù)積累的基礎(chǔ)上，也于近期推出了向量數(shù)據(jù)庫(kù)產(chǎn)品。表4：向量數(shù)據(jù)庫(kù)開發(fā)公司和產(chǎn)品列表發(fā)布時(shí)間WeaviateWeaviateTencentCloudVector騰訊云針對(duì)非結(jié)構(gòu)化數(shù)據(jù)的向量搜索引擎及相關(guān)工具。其開發(fā)的Milvus向量數(shù)據(jù)庫(kù)產(chǎn)品于2019年10月開源，為業(yè)內(nèi)公司在該領(lǐng)域技術(shù)的探索提供了豐富技術(shù)資源。從Milvus1.0即提供了相似性度量、ANN索引等核心算法以及可根據(jù)業(yè)務(wù)場(chǎng)景，預(yù)估數(shù)據(jù)量和節(jié)點(diǎn)規(guī)模，選擇免費(fèi)版（適用于新手用戶開發(fā)單一使用時(shí)間范圍內(nèi)根據(jù)計(jì)算資源和存儲(chǔ)資源的使用量來收費(fèi)。目前Zilliz的向量數(shù)據(jù)庫(kù)定制化需求也提供虛擬私有云部署的SaaS服務(wù)供客戶靈活選擇。/小時(shí)坡)/小時(shí)/小時(shí)/小時(shí)的技術(shù)開發(fā)專注于向量化的能力，即將各類不同的數(shù)據(jù)轉(zhuǎn)化成為向量數(shù)據(jù)。后續(xù)，Weaviate的向量數(shù)據(jù)庫(kù)產(chǎn)品根據(jù)Embedding數(shù)量和資源使用量來收費(fèi)。WeaviateEmbedding的數(shù)量是有向量的維度和數(shù)據(jù)對(duì)象的數(shù)量共同決定。而在基于第三方公間大?。┑氖褂昧縼砀顿M(fèi)。表6：Weaviate向量數(shù)據(jù)庫(kù)基于Weaviate起步價(jià)按月收費(fèi)的價(jià)格基于第三方公務(wù)按月收費(fèi)的價(jià)格谷歌云上基于存儲(chǔ)資源收費(fèi)的版本谷歌云上基于計(jì)算資源（CPU數(shù)量）收原始數(shù)據(jù)編碼為向量數(shù)據(jù)的階段采用多種編碼方式，不同編碼方式的向量數(shù)據(jù)在大模型的檢索過程中有快慢之分。混合搜索引擎可以篩選出檢索速度最快的向量嵌入方式作為結(jié)果反饋。而混合存儲(chǔ)則是將原本在內(nèi)存中存儲(chǔ)的向量索引部分轉(zhuǎn)移在磁的成本減少了10倍。我們認(rèn)為Pinecone公司對(duì)于數(shù)據(jù)在AI大模型全周期中的流程優(yōu)化方面較一般公司研究更為深入，已經(jīng)有較深的技術(shù)積累，其開發(fā)的向量數(shù)據(jù)庫(kù)發(fā)展前景向好。Pinecone在公有云環(huán)境中提供容器化的SaaS服務(wù)，按照容器的數(shù)量和容量收費(fèi)。在公有云環(huán)境下，容器是融合了CPU、內(nèi)存和硬盤等資源的基礎(chǔ)單元，是實(shí)現(xiàn)云端上提供的向量數(shù)據(jù)庫(kù)產(chǎn)品的收費(fèi)價(jià)格根據(jù)容器類型、數(shù)量、容量以及云服務(wù)器平臺(tái)決定。目前，Pinecone推出免費(fèi)版（單一容器）、標(biāo)準(zhǔn)版和企業(yè)版的向量數(shù)據(jù)庫(kù)產(chǎn)品。標(biāo)準(zhǔn)版和企業(yè)版的起步價(jià)分別為0.096美元/小時(shí)和0.144美元/小時(shí)。此外，Pinecone根據(jù)客戶定制化需求也提供虛擬私有云部署的表7：Pinecone向量數(shù)據(jù)庫(kù)收費(fèi)模式（以標(biāo)準(zhǔn)版為例）基礎(chǔ)價(jià)格存儲(chǔ)優(yōu)化型4000萬(wàn)個(gè)向量400萬(wàn)個(gè)向量（第二代）400萬(wàn)個(gè)向量礎(chǔ)設(shè)施。星環(huán)科技的Hippo向量數(shù)據(jù)庫(kù)具備的優(yōu)勢(shì)如下：同時(shí)支持多類索引，滿足不同業(yè)務(wù)場(chǎng)景;支持檢時(shí)序數(shù)據(jù)等多種模型數(shù)據(jù)進(jìn)行統(tǒng)一存儲(chǔ)管理，通過統(tǒng)一接口實(shí)現(xiàn)數(shù)據(jù)跨模型聯(lián)合分 圖28：星環(huán)科技分布式向量數(shù)據(jù)庫(kù)Transwar場(chǎng)景，高性能版Hippo可支持單臺(tái)服務(wù)器1000QPS（Queries-per-second）的數(shù)據(jù)場(chǎng)景推出的標(biāo)準(zhǔn)化產(chǎn)品更加符合行業(yè)客戶需求，未來發(fā)展前景看好。社區(qū)版存儲(chǔ)密集版樹索引、位圖索引-訪問控制---√--√---√-數(shù)據(jù)存儲(chǔ)加密/傳輸加密備份-海）股份有限公司向特定對(duì)象發(fā)行股票申請(qǐng)文件的審核問詢函的回復(fù)》中的信息，下游客戶或因數(shù)據(jù)量的增加而產(chǎn)生持續(xù)擴(kuò)容的需求。因此，向量數(shù)據(jù)庫(kù)產(chǎn)品的銷售表9：星環(huán)科技數(shù)據(jù)分析大模型建設(shè)項(xiàng)目相關(guān)產(chǎn)品定價(jià)參考面向部門級(jí)用戶的售賣模式下的BI工式基礎(chǔ)設(shè)施基線大模型騰訊云基于多年積累的向量引擎技術(shù)，推出了向量數(shù)據(jù)庫(kù)VectorDB。2023年7月，部的賦能工具OLAMA向量引擎，在其基礎(chǔ)上對(duì)于AI運(yùn)算、檢索方面進(jìn)行升級(jí)而來。騰訊云向量數(shù)據(jù)庫(kù)不僅能為大模型提供外部知識(shí)庫(kù)，提高大模型回答的準(zhǔn)確性，還00讓相同的內(nèi)存可以存儲(chǔ)5-10倍的數(shù)據(jù)。成本、運(yùn)維成本和人力成本開銷。（4）簡(jiǎn)單易用：支持豐富的向量檢索能力。用戶通過HTTPAPI或者SDK接口即可快速操作數(shù)據(jù)庫(kù)，開發(fā)效率高。同時(shí)控制臺(tái)提供了完善的數(shù)據(jù)管理和監(jiān)控能力，操作簡(jiǎn)單便捷。（5）穩(wěn)定可靠：向量數(shù)據(jù)庫(kù)源自騰訊內(nèi)部自研的向量檢索引擎OLAMA，近40個(gè)業(yè)生成對(duì)應(yīng)的向量數(shù)據(jù)并插入數(shù)據(jù)庫(kù)或進(jìn)行相似性檢索，實(shí)現(xiàn)了文本到向量數(shù)據(jù)的一騰訊云向量數(shù)據(jù)庫(kù)行業(yè)平均心3騰訊云向量數(shù)據(jù)庫(kù)行業(yè)平均表10：騰訊云向量數(shù)據(jù)庫(kù)提供實(shí)例類型免費(fèi)測(cè)試版10存儲(chǔ)型僅供快速測(cè)試使用，更多0存儲(chǔ)型三可用區(qū)：[2,節(jié)點(diǎn)數(shù)-1]騰訊云向量數(shù)據(jù)庫(kù)已被多家企業(yè)使用。截止到2023年1的各類問題，從而推動(dòng)商機(jī)進(jìn)展和獲取客戶；在電商領(lǐng)域，VectorDB應(yīng)用于提升推薦、搜索、廣告業(yè)務(wù)的推薦效果；在出行領(lǐng)域，VectorDB有效提升自動(dòng)駕駛騰訊結(jié)合公有云的技術(shù)和渠道優(yōu)勢(shì)，實(shí)現(xiàn)了VectorDB的快速推廣，為后續(xù)商業(yè)化收也反映了企業(yè)級(jí)客戶對(duì)于向量數(shù)據(jù)庫(kù)的需求是普遍存在于各行業(yè)中的。圖31：騰訊云向量數(shù)據(jù)VectorDB優(yōu)勢(shì)在于：提供更高的查詢QPS和更低的查詢延遲，適用于流量大、延遲敏感的場(chǎng)騰訊云向量數(shù)據(jù)庫(kù)基于CPU計(jì)算能力、內(nèi)存大小及其存儲(chǔ)能力，將節(jié)點(diǎn)規(guī)格劃分為們判斷，VectorDB的收費(fèi)標(biāo)準(zhǔn)或與其產(chǎn)品性能以及消耗的計(jì)算和存儲(chǔ)資源相關(guān)。表11：騰訊云向量數(shù)據(jù)庫(kù)提供節(jié)點(diǎn)規(guī)格（GB）存儲(chǔ)下估算的向量規(guī)模，不包含標(biāo)量數(shù)據(jù)）存儲(chǔ)型1824824488級(jí)大規(guī)模向量數(shù)據(jù)快速查詢更新的能力，內(nèi)置自研的ANN索引算法可以使得查詢時(shí)已上線華為云，用戶根據(jù)CPU核數(shù)、內(nèi)存大小和態(tài)支撐能力為GaussDBVector產(chǎn)品競(jìng)爭(zhēng)力及后續(xù)的商業(yè)化拓展提供了保表12：華為云GaussDBVector向量數(shù)據(jù)庫(kù)產(chǎn)品規(guī)格應(yīng)用場(chǎng)景3超高IO5超高IO早期開始技術(shù)探索的公司并未形成明顯的技術(shù)壁壘和先發(fā)優(yōu)勢(shì)。在商業(yè)化方面，向本的產(chǎn)品給用戶試用，而基于公有云的SaaS服務(wù)和星環(huán)科技的社區(qū)版Hippo都嘗試通過軟件的輕量化及部署的便捷化來推廣向量數(shù)據(jù)庫(kù)產(chǎn)品。我們認(rèn)為，向量數(shù)據(jù)庫(kù)在AI大模型訓(xùn)練和推理過程中的實(shí)際效果得到用戶充分認(rèn)識(shí)后，產(chǎn)品拓展過程有望業(yè)客戶使用AI大模型的實(shí)際需求以及其在AI大模型技術(shù)中應(yīng)用的實(shí)際效果。及金融機(jī)構(gòu)的業(yè)務(wù)普遍涉及敏感數(shù)據(jù)，對(duì)數(shù)據(jù)安全具有較高要求，考慮數(shù)據(jù)安全的據(jù)，2022年，美國(guó)SaaS公司數(shù)量為1.7萬(wàn)個(gè)，中國(guó)SaaS公司數(shù)量為702個(gè)。020200軟件上云環(huán)境的差異導(dǎo)致中美開發(fā)向量數(shù)據(jù)庫(kù)的公司類別有所差異。海外的云計(jì)算以獨(dú)立第三方（Pinecone、Weaviate和Zilliz）為主模式接受度不高的環(huán)境下，以騰訊云和華為云為代表的云計(jì)算廠商更愿意選擇開發(fā)標(biāo)準(zhǔn)化的向量數(shù)據(jù)庫(kù)產(chǎn)品，對(duì)外開拓市場(chǎng)。因此，在國(guó)內(nèi)云計(jì)算公司與獨(dú)立第三方司對(duì)于向量數(shù)據(jù)庫(kù)產(chǎn)品的定位、商業(yè)化優(yōu)劣勢(shì)以及競(jìng)合關(guān)系的變化。表13：在云計(jì)算平臺(tái)上提供SaaS服務(wù)的向量數(shù)據(jù)庫(kù)產(chǎn)品ZillizCloud、Weaviate、Pinecone、QdraZillizCloud、Weaviate、Pinecone、Qdra微軟云ZillizCloud、Weaviate、Pineco騰訊云TencentCloudVector1.獨(dú)立第三方公司的向量數(shù)據(jù)庫(kù)產(chǎn)品化和商業(yè)化能力是競(jìng)爭(zhēng)的關(guān)鍵風(fēng)險(xiǎn)到提供個(gè)性化的投資建議，金融領(lǐng)域存在較多的智能化需求，但相關(guān)數(shù)據(jù)涉及三方公司的向量數(shù)據(jù)庫(kù)產(chǎn)品在金融、醫(yī)療等線下部署的場(chǎng)景中更易推廣。對(duì)于行業(yè)數(shù)據(jù)和需求理解深刻獨(dú)立第三方公司在向量數(shù)據(jù)庫(kù)商業(yè)拓展時(shí)更具優(yōu)勢(shì)。不同行業(yè)數(shù)據(jù)結(jié)構(gòu)和組織方式不同，這導(dǎo)致向量數(shù)據(jù)庫(kù)在數(shù)據(jù)導(dǎo)入、轉(zhuǎn)換和向量化容的要求和需求不盡相同，向量檢索算法在訓(xùn)練和推理階段在不同行業(yè)也有一定優(yōu)化提升的空間。從這一角度來看，對(duì)行業(yè)數(shù)據(jù)特點(diǎn)理解深刻且對(duì)用戶需求具有洞察力的公司開發(fā)的向量數(shù)據(jù)庫(kù)在部分行業(yè)具有一定優(yōu)勢(shì)，典型如星環(huán)科技在金融行業(yè)向量數(shù)據(jù)庫(kù)處于產(chǎn)品化和商業(yè)化的早期階段，配合標(biāo)準(zhǔn)化產(chǎn)品的技術(shù)服務(wù)是關(guān)鍵。向量數(shù)據(jù)庫(kù)發(fā)展時(shí)間較短，相應(yīng)功能難以廣泛滿足各行業(yè)需求，在商業(yè)化落地過程技術(shù)服務(wù)的及時(shí)性和專業(yè)性將是向量數(shù)據(jù)庫(kù)公司新客拓展、老客留存的關(guān)鍵。我們中更具優(yōu)勢(shì)。相較于初創(chuàng)型的公司，星環(huán)科技已擁有410人的技術(shù)支持團(tuán)隊(duì)（截至2022年12月底對(duì)于新產(chǎn)品的市場(chǎng)推廣、商業(yè)化策略制定以及客戶溝通研發(fā)人員技術(shù)支持人員銷售人員管理人員輕量化和免費(fèi)版本的向量數(shù)