2024年全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告

全球A

I

網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告人工智能（以下簡稱“AI”）是未來發(fā)展的重要技術(shù)。隨著機(jī)器算法、算力地不斷突破，AI技術(shù)進(jìn)入飛速發(fā)展階段。同時(shí)，云、管、端、邊等基礎(chǔ)設(shè)施持續(xù)深入融合，在以5G、物聯(lián)網(wǎng)、數(shù)字化等新興技術(shù)為核心的“新基建”的加持下，萬物互聯(lián)和數(shù)據(jù)積累持續(xù)加速，全面推動AI技術(shù)廣泛應(yīng)用于千行百業(yè)，并且產(chǎn)生了具有革命性的深遠(yuǎn)影響。網(wǎng)絡(luò)安全正是其中之一，且天然適合AI技術(shù)應(yīng)用的行業(yè)。目前AI技術(shù)在網(wǎng)絡(luò)安全行業(yè)應(yīng)用廣泛，包括網(wǎng)絡(luò)行為與威脅分析、安全事件管理、入侵檢測、安全漏洞治理、端點(diǎn)保護(hù)、安全知識問答、數(shù)據(jù)與文件分類等多個(gè)方面。更重要的是，AI對于傳統(tǒng)網(wǎng)絡(luò)安全產(chǎn)品領(lǐng)域也產(chǎn)生了重大影響，對于未來安全產(chǎn)品的形態(tài)和發(fā)展趨勢有著不可替代的作用，以“AI”為核心的安全產(chǎn)品時(shí)代正在到來。目前，全球網(wǎng)絡(luò)安全廠商正在持續(xù)發(fā)力AI安全產(chǎn)品的研究與落地，將AI的能力深度融合于安全產(chǎn)品體系之中，推動網(wǎng)絡(luò)安全行業(yè)智能化發(fā)展。2024年3月，Microsoft

Security

Copilot正式發(fā)布，是全球首款真正意義上的AI安全產(chǎn)品，借助微軟龐大的全球威脅情報(bào)和每天數(shù)十萬億個(gè)信源提供的信息，以快速檢測、響應(yīng)來幫助企業(yè)更好地應(yīng)對當(dāng)下日益嚴(yán)峻的網(wǎng)絡(luò)安全形勢。例如用戶可以向

Security

Copilot

詢問特定時(shí)間段內(nèi)的可疑用戶登錄情況；甚至可以使用它來創(chuàng)建概述事件及其攻擊鏈的

PowerPoint

演示文稿；還可以接受文件、URL

和代碼片段進(jìn)行分析。同時(shí)，Security

Copilot還提供了可視化的工具，安全人員能夠讓機(jī)器人一鍵生成演示文件，展示安全威脅的路徑。Microsoft

Security

Copilot的發(fā)布正式拉開了全球AI安全產(chǎn)品的浪潮。國外知名網(wǎng)絡(luò)安全公司CrowdStrike、PaloAlto

Networks、Fortinet等紛紛跟進(jìn)，國內(nèi)網(wǎng)絡(luò)安全廠商也不斷發(fā)布對應(yīng)的AI大模型，時(shí)至今日，我們已經(jīng)看到不少安全產(chǎn)品已經(jīng)具有“AI”的能力。FreeBuf咨詢的《全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告》重點(diǎn)研究網(wǎng)安行業(yè)AI安全產(chǎn)品的市場規(guī)模、商業(yè)模式、發(fā)展挑戰(zhàn)等，對國內(nèi)外AI安全產(chǎn)品的競爭力進(jìn)行全面評估，展望當(dāng)前國內(nèi)外AI安全產(chǎn)品的發(fā)展階段。本報(bào)告中的AI安全產(chǎn)品，主要有三種呈現(xiàn)形式，分別是AI安全助手產(chǎn)品、AI驅(qū)動的安全平臺、AI賦能安全產(chǎn)品，其中包括針對AI大模型自身的安全產(chǎn)品和解決方案。本報(bào)告將為市場提供網(wǎng)安行業(yè)AI安全產(chǎn)品格局的全面、客觀的見解。AI安全任重道遠(yuǎn)。作為網(wǎng)絡(luò)安全行業(yè)發(fā)展的觀察者，F(xiàn)reeBuf咨詢對于AI安全的發(fā)展將保持常態(tài)化觀察，也歡迎業(yè)界同仁共同參與進(jìn)來，發(fā)現(xiàn)AI安全的價(jià)值。前

言001

PAGE全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告CONTENTS目錄01第一章AI推動網(wǎng)絡(luò)安全02第二章AI安全發(fā)展的風(fēng)險(xiǎn)與威脅產(chǎn)業(yè)變革0314產(chǎn)品形態(tài)國外AI安全產(chǎn)品分析14安全助手產(chǎn)品第三章全球AI安全市場概況與宏觀環(huán)境分析全球市場總體規(guī)模分析北美市場規(guī)模領(lǐng)先06

歐洲AI安全產(chǎn)品市場需求旺盛中國AI安全產(chǎn)品市場發(fā)展迅速AI安全市場融資情況10

融資金額高融資活動全球化細(xì)分市場多樣化AI安全企業(yè)并購1617171819AI驅(qū)動的安全平臺國內(nèi)AI安全產(chǎn)品分析AI安全助手產(chǎn)品AI驅(qū)動的安全平臺AI賦能安全產(chǎn)品02 AI大模型存在安全風(fēng)險(xiǎn)訓(xùn)練數(shù)據(jù)的安全風(fēng)險(xiǎn)AI大模型自身的脆弱性外部網(wǎng)絡(luò)攻擊與風(fēng)險(xiǎn)AI大模型成為攻擊者的利器天融信——AI大模型在金融行業(yè)安全運(yùn)營場景的應(yīng)用實(shí)踐案例背景問題與需求案例總結(jié)與推廣價(jià)值0405第五章國內(nèi)AI安全產(chǎn)品典型應(yīng)用案例06第六章全球AI安全發(fā)展趨勢與挑戰(zhàn)第四章2122實(shí)施內(nèi)容及效果關(guān)鍵成功因素全球AI安全產(chǎn)品主要22實(shí)施收益與反響21212323232425252123

螞蟻集團(tuán)——切面融合智能在威脅檢測的應(yīng)用案例簡介代表性成果介紹應(yīng)用背景及實(shí)施效果應(yīng)用實(shí)施難度與復(fù)雜性市場影響力與推廣性28AI對于安全產(chǎn)品具有革命性意義25瑞數(shù)信息28AI將成為網(wǎng)絡(luò)安全市場的新增長引擎——LLM平臺濫用下的AI應(yīng)用安全防御28以AI對抗AI的場景將愈發(fā)普遍25案例背景29AI自身的安全性將成為行業(yè)關(guān)注焦點(diǎn)25應(yīng)用場景與防護(hù)策略29AI存在合規(guī)挑戰(zhàn)26核心技術(shù)能力27產(chǎn)品優(yōu)勢27實(shí)施收益與推廣價(jià)值伴隨著AI及相關(guān)大模型產(chǎn)品的增多以及AI在攻擊方的快速運(yùn)用，主打AI的網(wǎng)絡(luò)安全產(chǎn)品及服務(wù)將成為行業(yè)的主要競爭領(lǐng)域，能夠深度整合AI技術(shù)，不斷創(chuàng)新和優(yōu)化安全解決方案的企業(yè)，將在未來的網(wǎng)絡(luò)安全市場中占據(jù)領(lǐng)先地位。網(wǎng)絡(luò)安全領(lǐng)域的頭部廠商正在快速推出AI安全產(chǎn)品，以應(yīng)對日益增長的網(wǎng)絡(luò)安全挑戰(zhàn)。尤其是在數(shù)據(jù)安全、入侵檢測、智能防護(hù)等方面，網(wǎng)安巨頭企業(yè)通過AI技術(shù)提高了安全防護(hù)的效率和智能化水平。隨著AI技術(shù)的不斷進(jìn)步與成熟，AI在網(wǎng)絡(luò)安全中的應(yīng)用場景越來越廣泛，涵蓋了從異常檢測到身份認(rèn)證，再到自動化響應(yīng)等多個(gè)方面，在網(wǎng)安領(lǐng)域的應(yīng)用實(shí)例越來越普遍。AI對于網(wǎng)絡(luò)安全的發(fā)展產(chǎn)生了重大影響，不僅是指AI推動了技術(shù)創(chuàng)新和產(chǎn)業(yè)升級，被用于構(gòu)建惡意檢測、攻擊識別系統(tǒng)，提升安全防御的智能化水平，降低響應(yīng)時(shí)間，提高整體的安全防御效果。更是因?yàn)锳I在與網(wǎng)絡(luò)安全深度結(jié)合的過程中，引入了大量全新、復(fù)雜的風(fēng)險(xiǎn)與威脅，極大地降低了黑灰產(chǎn)與網(wǎng)絡(luò)犯罪的門檻，例如攻擊者可一鍵自動化生成高質(zhì)量釣魚郵件。因此AI安全產(chǎn)品研究不能只關(guān)注AI和安全產(chǎn)品本身，也需要關(guān)注在不同業(yè)務(wù)場景下AI帶來的新威脅。具體來說，AI安全風(fēng)險(xiǎn)主要分為AI大模型自身安全風(fēng)險(xiǎn)和黑客利用AI大模型提升入侵效率和成功率兩部分。AI推動網(wǎng)絡(luò)安全產(chǎn)業(yè)變革AI安全發(fā)展的風(fēng)險(xiǎn)與威脅以下列舉部分典型場景（一）AI大模型存在安全風(fēng)險(xiǎn)在實(shí)時(shí)安全預(yù)警方面相較于傳統(tǒng)安全防御難以應(yīng)對快速變化的威脅環(huán)境，過度依賴規(guī)則匹配和簽名檢測，AI通過自主學(xué)習(xí)往往可以實(shí)現(xiàn)精準(zhǔn)、實(shí)時(shí)的威脅檢測。這不僅提高了檢測效率，還顯著降低了誤報(bào)率和漏報(bào)率，為構(gòu)建更加穩(wěn)固的安全防線提供了有力支持。在關(guān)聯(lián)分析方面AI大模型能夠自動化地整合來自不同源頭的異構(gòu)數(shù)據(jù)，并進(jìn)行必要的預(yù)處理，為后續(xù)分析奠定統(tǒng)一的數(shù)據(jù)基礎(chǔ)。通過關(guān)聯(lián)分析和特征提取，AI能夠識別出不同數(shù)據(jù)源間的相關(guān)性和潛在模式，從而有助于識別異常網(wǎng)絡(luò)行為和潛在的安全威脅。在用戶行為分析方面AI大模型能夠?qū)W習(xí)并理解用戶和設(shè)備的正常行為模式，一旦檢測到登錄失敗次數(shù)過多、訪問敏感數(shù)據(jù)等異常行為，便會立即觸發(fā)警報(bào)，并可能自動采取隔離措施，防止?jié)撛诘陌踩{擴(kuò)散。這種能力對于防范內(nèi)部威脅和外部攻擊都至關(guān)重要。AI大模型存在的安全風(fēng)險(xiǎn)主要可以分為三類，分別是訓(xùn)練數(shù)據(jù)的安全風(fēng)險(xiǎn)、大模型本身的安全風(fēng)險(xiǎn)和外部攻擊風(fēng)險(xiǎn)。訓(xùn)練數(shù)據(jù)的安全風(fēng)險(xiǎn)AI大模型訓(xùn)練數(shù)據(jù)的質(zhì)量直接決定了其實(shí)際能力，因此訓(xùn)練數(shù)據(jù)在提升AI大模型的性能和應(yīng)用效果中扮演著重要角色。訓(xùn)練數(shù)據(jù)的形式通常包括文本、圖像、語音、視頻等結(jié)構(gòu)化與非結(jié)構(gòu)化數(shù)據(jù)。在實(shí)際訓(xùn)練過程中，AI大模型訓(xùn)練數(shù)據(jù)中往往包含敏感信息，且屢屢發(fā)生數(shù)據(jù)泄露事件，涉及的數(shù)據(jù)安全問題也隨之凸顯，包括個(gè)人隱私泄露、商業(yè)機(jī)密泄露等。在數(shù)據(jù)處理方面AI大模型通過高效的算法和強(qiáng)大的計(jì)算力，能夠在海量安全數(shù)據(jù)中快速挖掘出有價(jià)值的情報(bào)信息，篩選、分析和解讀數(shù)據(jù)，從中識別出潛在的安全威脅和異常行為，極大地提升了數(shù)據(jù)處理的速度和準(zhǔn)確性，為安全分析和響應(yīng)提供堅(jiān)實(shí)的支撐。在自動化滲透測試與漏洞管理方面AI大模型可以模擬各種復(fù)雜的攻擊場景，快速發(fā)現(xiàn)系統(tǒng)中的漏洞和弱點(diǎn)，能夠幫助安全團(tuán)隊(duì)優(yōu)先處理高危漏洞，提供修復(fù)建議，并持續(xù)跟蹤漏洞的修復(fù)進(jìn)度，確保系統(tǒng)的安全性得到及時(shí)提升。在智能安全決策方面AI大模型能夠整合來自多個(gè)數(shù)據(jù)源的信息，進(jìn)行綜合分析，為安全團(tuán)隊(duì)提供全面的安全態(tài)勢感知和決策支持。通過預(yù)測潛在的安全風(fēng)險(xiǎn)、評估不同安全策略的效果，AI大模型能夠輔助安全團(tuán)隊(duì)做出更加明智的決策，提高整體的安全防護(hù)水平。步。在知識庫與培訓(xùn)體系優(yōu)化方面AI大模型可以構(gòu)建和維護(hù)一個(gè)全面的安全知識庫，包括最新的漏洞信息、攻擊手法和防御策略等。這不僅可以為安全分析人員提供及時(shí)、準(zhǔn)確的參考信息，還可以作為智能培訓(xùn)系統(tǒng)的數(shù)據(jù)源，通過模擬實(shí)戰(zhàn)場景、提供個(gè)性化學(xué)習(xí)路徑等方式，幫助安全人員不斷提升技能水平。AI大模型在網(wǎng)安行業(yè)的應(yīng)用推動技術(shù)創(chuàng)新和產(chǎn)業(yè)升級通過不斷引入新的技術(shù)和方法，AI大模型為網(wǎng)安行業(yè)帶來了更多的可能性和解決方案，促進(jìn)整個(gè)行業(yè)的快速發(fā)展和進(jìn)全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告01

PAGEPAGE

02以下是AI大模型訓(xùn)練數(shù)據(jù)泄露的安全風(fēng)險(xiǎn)：1）數(shù)據(jù)泄露AI大模型在訓(xùn)練過程中可能會泄露訓(xùn)練數(shù)據(jù)中的敏感信息。攻擊者可以通過模型的輸出推斷出訓(xùn)練數(shù)據(jù)的內(nèi)容，或者利用模型的漏洞獲取未經(jīng)授權(quán)的數(shù)據(jù)訪問。例如，模型可能會在輸出中無意間泄露訓(xùn)練數(shù)據(jù)中的個(gè)人信息或其他敏感數(shù)據(jù)。其次，攻擊者可以在不接觸隱私數(shù)據(jù)的情況下，利用模型輸出結(jié)果等信息來反向推導(dǎo)出用戶的隱私數(shù)據(jù)。這種攻擊可以通過模型的輸出向量來恢復(fù)訓(xùn)練數(shù)據(jù)或者預(yù)測數(shù)據(jù)中的圖像，導(dǎo)致用戶的肖像信息或其他敏感信息被泄露。2）數(shù)據(jù)投毒數(shù)據(jù)投毒是AI大模型面臨的一種嚴(yán)重的安全威脅，它涉及在訓(xùn)練數(shù)據(jù)集中故意引入錯(cuò)誤或虛假的數(shù)據(jù)，以誤導(dǎo)模型并產(chǎn)生錯(cuò)誤的預(yù)測結(jié)果，從而影響模型的訓(xùn)練效果和最終輸出，會對AI系統(tǒng)的可靠性、穩(wěn)定性和安全性造成嚴(yán)重影響。典型數(shù)據(jù)投毒的形式如下：惡意數(shù)據(jù)注入：攻擊者故意向訓(xùn)練數(shù)據(jù)集中注入錯(cuò)誤或虛假的數(shù)據(jù)，以誤導(dǎo)模型。這些數(shù)據(jù)可能包括具有誤導(dǎo)性標(biāo)簽或特征的數(shù)據(jù)，導(dǎo)致模型學(xué)習(xí)到錯(cuò)誤的知識。惡意數(shù)據(jù)注入是一種直接且有效的攻擊手段，能夠顯著提高模型的錯(cuò)誤率，影響其在實(shí)際應(yīng)用中的表現(xiàn)。數(shù)據(jù)篡改：攻擊者篡改現(xiàn)有數(shù)據(jù)集中的某些數(shù)據(jù)，例如修改圖像、文本或音頻文件。這種攻擊通常針對標(biāo)簽數(shù)據(jù)，通過更改標(biāo)簽來誤導(dǎo)模型。數(shù)據(jù)篡改能夠直接影響模型的輸出結(jié)果，導(dǎo)致模型在各種應(yīng)用場景中表現(xiàn)不佳。數(shù)據(jù)污染：攻擊者通過控制數(shù)據(jù)源或數(shù)據(jù)傳輸過程，使數(shù)據(jù)集受到污染。這種污染可能包括注入惡意數(shù)據(jù)、數(shù)據(jù)損壞等。數(shù)據(jù)污染是一種隱蔽的攻擊手段，能夠在模型訓(xùn)練過程中不被察覺，但其影響可能在模型部署和運(yùn)行時(shí)顯現(xiàn)。3）數(shù)據(jù)版權(quán)根據(jù)《生成式人工智能服務(wù)安全基本要求》，人工智能的訓(xùn)練數(shù)據(jù)主要來源于開源語料、自采語料、商業(yè)語料、使用者輸入信息語料，其可能存在大量安全風(fēng)險(xiǎn)。開源語料：雖然開源語料的數(shù)據(jù)集公開可用，但可能包含受版權(quán)、商標(biāo)、專利或其他知識產(chǎn)權(quán)法律保護(hù)的元素，該語料無法保證知識產(chǎn)權(quán)清潔性。商業(yè)語料：是指開發(fā)者與數(shù)據(jù)提供商簽訂協(xié)議后獲得的內(nèi)容，但這部分內(nèi)容通常難以追根溯源，確保每項(xiàng)內(nèi)容都有準(zhǔn)確授權(quán)。自采語料：是指開發(fā)者利用爬蟲技術(shù)獲取的網(wǎng)絡(luò)信息，其爬取的內(nèi)容受相關(guān)網(wǎng)絡(luò)平臺政策的影響，若出于商業(yè)產(chǎn)品開發(fā)使用目的，則依然可能存在不正當(dāng)競爭的風(fēng)險(xiǎn)。用戶輸入信息語料：是指用戶在使用AI大模型過程中輸入的信息，其中包括個(gè)人敏感信息和公司敏感數(shù)據(jù)，被AI大模型調(diào)用后可引發(fā)嚴(yán)重的安全風(fēng)險(xiǎn)。通過AI大模型，攻擊工具能夠自動學(xué)習(xí)、適應(yīng)和進(jìn)化，攻擊者無需手動編寫復(fù)雜的代碼或策略，即可發(fā)起高效、精準(zhǔn)的攻擊，這使得網(wǎng)絡(luò)攻擊相較于以往更加容易實(shí)施且難以防范。以下列舉部分使用場景：高效生成惡意內(nèi)容：AI大模型能夠快速地生成看似合理且難以區(qū)分的欺詐性文本、電子郵件和網(wǎng)站。例如，F(xiàn)raudGPT就是黑客借助開源模式模仿ChatGPT等合法模型，基于有害語料庫訓(xùn)練而生的、專門用于網(wǎng)絡(luò)犯罪、詐騙等非法行為的一類非法大模型。據(jù)國際安全研究團(tuán)隊(duì)Perception

Point與Osterman

Research此前聯(lián)合發(fā)布的《人工智能在電子郵件安全中的作用》報(bào)告顯示，網(wǎng)絡(luò)罪犯正在迅速采用AI工具以推動其利益，而有91.1%的組織稱他們已遭受到了被AI增強(qiáng)的電子郵件攻擊。自動化漏洞利用：大模型對編程語言和軟件漏洞的深入理解，使得攻擊者能夠更快速地識別并利用這些漏洞。通過自動化掃描和測試，攻擊者可以更加高效地發(fā)動攻擊，對目標(biāo)系統(tǒng)造成破壞。此外，基于大模型的攻擊手段還可能更加隱蔽和難以檢測，增加了防御難度。深度偽造與身份冒充：AI大模型在圖像和聲音處理方面的能力也為攻擊者提供了新的偽造手段。利用這些技術(shù)，攻擊者可以創(chuàng)建逼真的虛假圖像、視頻和音頻文件，進(jìn)行深度偽造，冒充他人身份進(jìn)行詐騙或傳播虛假信息。根據(jù)德勤的最新報(bào)告，與深度偽造相關(guān)的網(wǎng)絡(luò)攻擊損失預(yù)計(jì)將從2023年的123億美元飆升至2027年的400億美元，復(fù)合年增長率達(dá)到驚人的32%，其中，銀行和金融服務(wù)業(yè)將成為主要目標(biāo)。報(bào)告顯示，作為對抗性AI攻擊的典型代表，深度偽造攻擊僅去年一年就暴增了3000%。復(fù)雜攻擊策略的制定：大模型所具備的邏輯推理和策略規(guī)劃能力，使得攻擊者能夠設(shè)計(jì)出更加復(fù)雜和難以預(yù)測的攻擊策略。這些策略可能涉及多個(gè)步驟、多個(gè)目標(biāo)和多種攻擊手段的組合，增加了防御的復(fù)雜性和難度。攻擊者借助AI大模型的泛化能力，還可以將針對特定目標(biāo)的攻擊策略迅速擴(kuò)展到更廣泛的范圍。通過自動化工具和腳本，攻擊者可以同時(shí)對多個(gè)目標(biāo)發(fā)起攻擊，迅速擴(kuò)大攻擊范圍，增強(qiáng)攻擊的影響力。定制化攻擊：定制化攻擊策略，也是AI大模型為攻擊者提供的“超能力”，攻擊者能夠借此利用目標(biāo)網(wǎng)絡(luò)的特點(diǎn)、用戶習(xí)慣等信息，動態(tài)生成定制化的攻擊策略，使得攻擊更加難以被檢測和防御。這種個(gè)性化的攻擊方式極大地提高了攻擊的成功率。資源的程度，并導(dǎo)致系統(tǒng)崩潰。類似的攻擊形式還有tokens攻擊。武器化模型：是指將人工智能模型或機(jī)器學(xué)習(xí)模型應(yīng)用于惡意目的或攻擊性行為的過程。通常情況下，這種行為是非法且具有破壞性的，旨在侵犯隱私、破壞系統(tǒng)、欺騙用戶或其他惡意活動。武器化模型可以被用于各種攻擊場景，例如在釣魚攻擊中，可使用自然語言處理模型生成欺騙性的電子郵件或社交媒體消息，以誘騙用戶提供個(gè)人信息或執(zhí)行惡意操作。倫理與歧視風(fēng)險(xiǎn)：基于商業(yè)秘密保護(hù)等原因，人工智能存在“算法黑箱”，使得算法可解釋性不強(qiáng)，輸出結(jié)果的公正性難以被證成，這有違基本的程序正義要求。同時(shí)訓(xùn)練過程中也會吸收并放大訓(xùn)練數(shù)據(jù)中的偏見導(dǎo)致在處理特定問題時(shí)對某些群體產(chǎn)生不公平對待，并且隨著時(shí)間的推移，歧視風(fēng)險(xiǎn)可能會不斷升級、疊加。安全合規(guī)風(fēng)險(xiǎn)：全球各國政府陸續(xù)出臺相關(guān)法規(guī)，對AI大模型提出新的合規(guī)要求。例如中國發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。新的法規(guī)要求AI大模型在開發(fā)、部署和使用過程中必須遵守更嚴(yán)格的安全和隱私標(biāo)準(zhǔn)，增加了AI大模型的合規(guī)風(fēng)險(xiǎn)。同時(shí)，AI技術(shù)的快速發(fā)展可能使得現(xiàn)有的法規(guī)難以跟上技術(shù)變革的步伐，導(dǎo)致合規(guī)風(fēng)險(xiǎn)的不確定性增加。（二）AI大模型成為攻擊者的利器全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告外部網(wǎng)絡(luò)攻擊與風(fēng)險(xiǎn)與AI大模型快速發(fā)展、應(yīng)用不同的是，AI如今仍然面臨著大量的外部攻擊風(fēng)險(xiǎn)。由于大模型自身存在脆弱性，對安全風(fēng)險(xiǎn)的防范能力不足，容易受到指令攻擊、提示注入和后門攻擊等惡意攻擊。尤其是在政治、軍事、金融、醫(yī)療等關(guān)鍵的涉密應(yīng)用領(lǐng)域，任何形式的惡意攻擊都可能造成嚴(yán)重的后果。以下列舉幾種較為典型的外部攻擊和安全風(fēng)險(xiǎn)：海綿攻擊：是指攻擊者通過針對海綿結(jié)構(gòu)的弱點(diǎn)來破壞其安全性。攻擊的目標(biāo)是從給定的輸入中生成具有特定性質(zhì)的輸出。攻擊者通過選擇恰當(dāng)?shù)妮斎霐?shù)據(jù)和進(jìn)行特定的修改來實(shí)現(xiàn)這一目標(biāo)，以及通過觀察輸出數(shù)據(jù)的反饋信息來指導(dǎo)修改進(jìn)程。CalypsoAI的首席執(zhí)行官Neil

Serebryany稱，該攻擊試圖讓神經(jīng)網(wǎng)絡(luò)使用更多的計(jì)算，以達(dá)到可能超過系統(tǒng)可用計(jì)算03

PAGEPAGE

04惡意AI大模型：AI大模型由于存在安全控制措施，并不能直接被用于惡意活動，但在2023年卻誕生了專門被用戶黑客攻擊/入侵的惡意AI大模型，包括WormGPT和FraudGPT在內(nèi)的最受歡迎的黑暗聊天機(jī)器人的銷售在黑暗的網(wǎng)絡(luò)上激增。據(jù)ThreatLabz研究團(tuán)隊(duì)發(fā)布報(bào)告，這些惡意AI大模型使用門檻低，功能十分齊全，可以用于創(chuàng)建，測試一下或優(yōu)化任何種類的惡意代碼，包括惡意軟件和勒索軟件等。隨著人工智能相關(guān)技術(shù)的快速發(fā)展，AI已經(jīng)逐漸成為網(wǎng)絡(luò)安全領(lǐng)域的重要驅(qū)動力。AI技術(shù)在網(wǎng)絡(luò)安全產(chǎn)品中的應(yīng)用，不僅提升了產(chǎn)品的防護(hù)能力，還為網(wǎng)絡(luò)安全帶來了全新的視角和解決方案。例如賦能傳統(tǒng)威脅檢測，使其能夠自動分析網(wǎng)絡(luò)流量，識別異常行為；強(qiáng)化自動化響應(yīng)與處置，AI技術(shù)可以實(shí)現(xiàn)對事件的自動分類和分級，并根據(jù)預(yù)設(shè)的策略自動采取相應(yīng)的處置措施等。IDC最新發(fā)布的《全球未來信任十大預(yù)測——中國啟示》報(bào)告也指出，到2025年中國40%的2000強(qiáng)企業(yè)將在其安全運(yùn)營中心中基于第一方數(shù)據(jù)部署GenAI，以便輔助高級分析師進(jìn)行檢測和響應(yīng)工作，并同時(shí)解決幻覺、偏見、隱私和強(qiáng)化學(xué)習(xí)等問題。2024年全國兩會期間，“人工智能+”首次被寫入《政府工作報(bào)告》。報(bào)告提出，深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用，開展“人工智能+”行動，打造具有國際競爭力的數(shù)字產(chǎn)業(yè)集群。此次“人工智能+”行動的提出，預(yù)計(jì)也將為人工智能技術(shù)在各行業(yè)的廣泛應(yīng)用開啟新篇章，人工智能的重要性正在逐步提升。AI技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用為行業(yè)帶來了新的商業(yè)機(jī)會。許多企業(yè)和機(jī)構(gòu)開始尋求基于AI的安全解決方案，以提升自身的網(wǎng)絡(luò)安全防護(hù)能力。未來隨著技術(shù)的不斷進(jìn)步和應(yīng)用需求的持續(xù)增長，全球AI安全產(chǎn)品市場將迎來更加廣闊的發(fā)展前景。目前全球AI安全產(chǎn)品市場還處于初級階段，相關(guān)安全大模型的應(yīng)用主要聚焦在安全檢測、安全運(yùn)營、數(shù)據(jù)安全等領(lǐng)域，在金融、大型制造業(yè)、互聯(lián)網(wǎng)等多個(gè)行業(yè)落地，其發(fā)展勢頭較為迅猛，市場規(guī)模不斷擴(kuò)大，競爭格局日趨激烈。而隨著網(wǎng)絡(luò)攻擊手段日益復(fù)雜和頻繁，企業(yè)對網(wǎng)絡(luò)安全的需求不斷增長，推動了對AI驅(qū)動的安全解決方案的需求增加。根據(jù)Marketsandmarkets報(bào)告，全球網(wǎng)絡(luò)安全人工智能市場規(guī)模在2023年達(dá)到224億美元，并預(yù)計(jì)到2028年將達(dá)到606億美元，復(fù)合年增長率達(dá)到21.9%。根據(jù)ResearchAndMarkets報(bào)告預(yù)測，2030年全球網(wǎng)絡(luò)安全中AI產(chǎn)值將突破千億美元，年復(fù)合增長率達(dá)到25.7%。這表明AI網(wǎng)絡(luò)安全產(chǎn)品正受到越來越多企業(yè)和組織的青睞，市場需求強(qiáng)勁。2025年之前，AI自動執(zhí)行日常事件響應(yīng)任務(wù)將成為主流，縮短響應(yīng)時(shí)間，最大限度地減少手動錯(cuò)誤，同時(shí)整合可解釋的Al，以提高透明度，促進(jìn)更好地了解威脅檢測機(jī)制。2028年之前，網(wǎng)絡(luò)安全企業(yè)將能夠更多地使用聯(lián)合機(jī)器學(xué)習(xí)模型進(jìn)行協(xié)作威脅情報(bào)。2030年之前，AI將與數(shù)據(jù)安全能力緊密結(jié)合，以確保敏感數(shù)據(jù)的保護(hù)和數(shù)據(jù)交易的安全。（一）全球市場總體規(guī)模分析全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告全球AI安全市場概況與宏觀環(huán)境分析從行業(yè)應(yīng)用來看，目前AI安全已經(jīng)在通信、能源、金融、教育、醫(yī)療、關(guān)鍵基礎(chǔ)設(shè)施等行業(yè)具有落地方案，并在某些方面開始發(fā)揮出人工無法替代的重要作用，例如自動處理告警信息、自動化識別網(wǎng)絡(luò)威脅、自動化威脅響應(yīng)、敏感信息保護(hù)等。從地域分布來看，北美地區(qū)占據(jù)全球AI安全產(chǎn)品市場的最大份額，其次是歐洲和亞太地區(qū)。中國、日本和印度等國家的AI安全產(chǎn)品市場需求增長迅速，成為推動亞太市場增長的主要動力。北美市場規(guī)模領(lǐng)先北美地區(qū)預(yù)計(jì)將繼續(xù)保持全球最大的AI安全產(chǎn)品市場地位，北美AI安全產(chǎn)品市場規(guī)模巨大，這主要得益于其在技術(shù)創(chuàng)新、資金投入和政策支持方面的優(yōu)勢。隨著全球?qū)I安全需求的不斷增長，北美市場預(yù)計(jì)將繼續(xù)保持領(lǐng)先地位。北美AI安全產(chǎn)品市場的主要參與者包括微軟、思科、博通、Palo

Alto

Networks、Fortinet、CrowdStrike、Cloud-?are、Zscaler、Netskope等。主要參與者通過收購、合作和技術(shù)創(chuàng)新等手段，不斷提升自身的市場競爭力和市場份額。例如，思科收購Splunk，微軟與IBM達(dá)成廣泛合作，CrowdStrike收購數(shù)據(jù)安全態(tài)勢管理公司Flow

Security等。競爭格局的激烈使得市場中的主要參與者不斷尋求新的增長點(diǎn)和競爭優(yōu)勢，有助于推動整個(gè)行業(yè)的發(fā)展和創(chuàng)新。歐洲AI安全產(chǎn)品市場需求旺盛近年來，歐洲AI安全產(chǎn)品市場需求旺盛，主要驅(qū)動因素包括歐盟《人工智能法案》的實(shí)施、企業(yè)對網(wǎng)絡(luò)安全投資的增加、生成式AI技術(shù)的應(yīng)用，以及數(shù)據(jù)安全和隱私保護(hù)的需求提升。網(wǎng)安法規(guī)驅(qū)動市場需求：2024年5月1日，歐盟《人工智能法案》正式生效，對AI系統(tǒng)的安全性提出了嚴(yán)格要求，從而推動了AI安全產(chǎn)品市場的發(fā)展。數(shù)據(jù)安全和隱私保護(hù)的需求提升：隨著企業(yè)和個(gè)人對數(shù)據(jù)安全和隱私保護(hù)意識的增強(qiáng)，對AI安全產(chǎn)品的需求也隨之增加。2023年12月，“數(shù)字歐洲計(jì)劃”正式被提出，歐盟委員會為包括網(wǎng)絡(luò)安全和人工智能在內(nèi)的數(shù)字解決方案提供了7.627

億歐元的資金。隨著數(shù)字歐洲計(jì)劃加速實(shí)施，對于AI安全產(chǎn)品的需求也將更加旺盛，例如包括部署數(shù)字化安全運(yùn)營中心網(wǎng)絡(luò)，將使用AI安全技術(shù)或以提升對網(wǎng)絡(luò)威脅的監(jiān)測和響應(yīng)能力；進(jìn)一步完善人工智能實(shí)驗(yàn)及測試設(shè)施，支持人工智能技術(shù)的研發(fā)等，將進(jìn)一步刺激AI安全市場的需求。中國AI安全產(chǎn)品市場發(fā)展迅速Check

Point

與

Vanson

Bourne聯(lián)合發(fā)布的市場調(diào)研報(bào)告顯示，AI在網(wǎng)絡(luò)安全領(lǐng)域應(yīng)用效果明顯，其中接近50%的亞太地區(qū)網(wǎng)安管理層表示，AI

可簡化安全運(yùn)維和資源分配，這一比例在全球三大地區(qū)中位居首位。雖然AI大模型在國內(nèi)網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用還處于初階，但是已經(jīng)展現(xiàn)巨大發(fā)展?jié)摿?，眾多廠商推出了集成AI技術(shù)的網(wǎng)絡(luò)安全產(chǎn)品，已經(jīng)在各行各業(yè)中落地，AI安全產(chǎn)品市場發(fā)展迅速，呈現(xiàn)出“多強(qiáng)競爭”的格局。眾多老牌廠商包括天融信、360、奇安信、安恒信息、迪普科技、綠盟科技、深信服科技、微步在線、火山引擎、華為等都已發(fā)布了相應(yīng)的網(wǎng)絡(luò)安全AI大模型或AI安全產(chǎn)品。例如將AI大模型能力深度融合于防火墻、入侵檢測與防御、Web應(yīng)用防火墻、DDoS緩解、零信任網(wǎng)絡(luò)訪問等此前已經(jīng)成熟的網(wǎng)絡(luò)安全產(chǎn)品之中，進(jìn)一步提升相關(guān)產(chǎn)品在自動化、準(zhǔn)確度、效率等方面的效果。國內(nèi)知名安全廠商天融信是國內(nèi)AI安全產(chǎn)品的主要玩家之一，一直積極探索“AI+安全”的融合創(chuàng)新發(fā)展，基于“平臺、產(chǎn)品、場景”構(gòu)建企業(yè)級AI安全能力體系，將大模型、小模型、機(jī)器學(xué)習(xí)等AI技術(shù)能力與網(wǎng)絡(luò)安全產(chǎn)品深度融合，實(shí)現(xiàn)AI

對威脅檢測、安全運(yùn)營、知識問答和算力管理等應(yīng)用場景的全面賦能。05

PAGEPAGE

06通用AI大模型在網(wǎng)絡(luò)安全行業(yè)也有廣泛的應(yīng)用。例如螞蟻集團(tuán)AI大模型可應(yīng)用于威脅識別、態(tài)勢感知、風(fēng)險(xiǎn)評分、惡意檢測等方向，提升網(wǎng)絡(luò)網(wǎng)絡(luò)空間智能安全整體防護(hù)水平。政策法規(guī)層面，目前各國政府對AI安全的重視程度不斷提高，出臺了一系列法規(guī)和標(biāo)準(zhǔn)，促進(jìn)了AI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用。中國2023年10月發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，這也是中國針對生成式AI服務(wù)的首個(gè)法規(guī)，要求生成式人工智能提供商在提供面向公眾的服務(wù)時(shí)必須獲得許可。該辦法旨在規(guī)范生成式AI服務(wù)，保護(hù)用戶隱私和數(shù)據(jù)安全。美國在2023年1月發(fā)布了《人工智能風(fēng)險(xiǎn)管理框架》，旨在對人工智能系統(tǒng)全生命周期實(shí)行有效的風(fēng)險(xiǎn)管理。該框架將可信度考量納入設(shè)計(jì)、開發(fā)、使用和評估AI產(chǎn)品、服務(wù)和系統(tǒng)中，并基于其他機(jī)構(gòu)的AI風(fēng)險(xiǎn)管理工作，確保制定過程的公開、透明。2024年8月，歐盟《人工智能法案》將正式生效。這是全球首個(gè)全面監(jiān)管人工智能的法案，旨在實(shí)現(xiàn)與《通用數(shù)據(jù)保護(hù)條例》（GDPR）相同的“布魯塞爾效應(yīng)”。該法案對人工智能系統(tǒng)進(jìn)行了分類，并根據(jù)風(fēng)險(xiǎn)等級制定了相應(yīng)的監(jiān)管要求。2023年，全球網(wǎng)絡(luò)安全行業(yè)投融資情況不容樂觀。根據(jù)網(wǎng)絡(luò)招聘公司Pinpoint

Search

Group的報(bào)告，2023年全球網(wǎng)絡(luò)安全行業(yè)共進(jìn)行了346輪融資和91筆并購（M&A）交易，投資總額為87億美元，比2022年的145億美元減少了40%，下降幅度較大。2023年第四季度的跌幅尤為明顯，初創(chuàng)公司僅籌得16億美元，創(chuàng)下自2018年第三季度以來的最低水平，當(dāng)時(shí)網(wǎng)絡(luò)安全公司僅籌得13億美元。2023年第四季度只有三家網(wǎng)絡(luò)安全初創(chuàng)公司的單輪融資超過1億美元。這里面既有市場在經(jīng)歷了2021年融資激增后回調(diào)的原因，也反映出投資者開始趨于謹(jǐn)慎，對項(xiàng)目的選擇和評估更加嚴(yán)格。其中，人工智能、零信任、數(shù)據(jù)安全、智能汽車等方向受到市場青睞，隨著數(shù)字化轉(zhuǎn)型的推進(jìn)，網(wǎng)絡(luò)安全需求在不斷擴(kuò)展，特別是在人工智能等新興技術(shù)中的應(yīng)用。這意味著AI是網(wǎng)絡(luò)安全領(lǐng)域中最熱門且最有想象空間的投資方向，并在2023年獲得了新的增長。FreeBuf咨詢根據(jù)公開數(shù)據(jù)統(tǒng)計(jì)發(fā)現(xiàn)，2022年，全球AI安全的融資額約為2000萬美元左右；2023年，AI安全融資迎來了爆發(fā)期，融資總額約為2億美元，同比增幅高達(dá)1000%。2023年人工智能安全的融資額顯著增長，主要得益于AI技術(shù)的突破性發(fā)展，在促進(jìn)網(wǎng)絡(luò)安全產(chǎn)品聯(lián)動、自動化方面有著巨大的優(yōu)勢，可實(shí)現(xiàn)安全威脅實(shí)時(shí)檢測和自動化處理，有效提升了網(wǎng)絡(luò)安全產(chǎn)品的能力。其次是出于對AI大模型自身安全性的擔(dān)憂，隨著ChatGPT等AI工具的廣泛流行，以及AI大模型數(shù)據(jù)泄露事件、AI大模型越獄事件等屢屢出現(xiàn)，導(dǎo)致市場對大模型自身的安全性的需求激增。Gartner的研究預(yù)測指出，由于生成式人工智能（GenAI）引入了新的攻擊面，為提供相關(guān)防護(hù)，企業(yè)機(jī)構(gòu)必須對應(yīng)用和數(shù)據(jù)安全實(shí)踐以及用戶監(jiān)控進(jìn)行變革。到2025年，GenAI的采用將導(dǎo)致企業(yè)機(jī)構(gòu)所需的網(wǎng)絡(luò)安全資源激增，從而使應(yīng)用和數(shù)據(jù)安全支出增加15%以上，進(jìn)一步拉動了網(wǎng)絡(luò)安全相關(guān)需求。2024年，AI+網(wǎng)絡(luò)安全（AI安全）依舊是行業(yè)融資最熱門的領(lǐng)域。FreeBuf對公開數(shù)據(jù)進(jìn)行整理分析后發(fā)現(xiàn)，截止7月31日，全球AI安全共進(jìn)行了102輪融資交易，投資總額為超過10億美元，同比2023年增幅達(dá)到500%，預(yù)計(jì)在2024年下半年還有大量AI安全企業(yè)將活動融資，2024年總?cè)谫Y金額或接近20億美元。全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告（二）AI安全市場融資情況07

PAGEPAGE

08AI網(wǎng)絡(luò)安全企業(yè)融資表國家地區(qū)企業(yè)名稱業(yè)務(wù)方向輪次融資金額中國中科睿鑒AI反欺詐未披露近億元云起無垠安全智能體天使+輪數(shù)千萬元瑞萊智慧AI安全戰(zhàn)略融資未披露路為科技云原生股權(quán)融資未披露木衛(wèi)四車聯(lián)網(wǎng)安全Pre-A輪數(shù)千萬元中科睿鑒AI偽造檢測股權(quán)融資未披露深可信云安全解決方案未披露未披露掌數(shù)科技金融行業(yè)大數(shù)據(jù)平臺未披露未披露锘崴科技隱私計(jì)算未披露未披露美國Cyera數(shù)據(jù)安全C輪3億美元CorelightNDRE輪1.5億美元Huntress安全運(yùn)營D輪1.5億美元Bugcrowd安全服務(wù)1.02億美元Cyberhaven數(shù)據(jù)安全C輪8800萬美元Cowbell網(wǎng)絡(luò)保險(xiǎn)C輪6000萬美元Protect

AIAI安全B輪6000萬美元Transcend隱私安全B輪4000萬美元Seven

AI安全運(yùn)營種子輪3600萬美元SafeBaseAI

GRC自動化B輪3300萬美元WitnessAIAI安全A輪2750萬美元SOCRadarXTI&DRPB輪2520萬美元CyberSaint

Security網(wǎng)絡(luò)風(fēng)險(xiǎn)管理種子輪2100萬美元Credo

AIAI安全B輪2100萬美元KindoAI

SSPM股權(quán)融資2060萬美元Alethea輿情監(jiān)測B輪2000萬美元XBOWAI滲透測試種子輪2000萬美元LakeraLLM漏洞防護(hù)A輪2000萬美元Aim

SecurityAI安全A輪1800萬美元LightBeam.ai零信任A輪1780萬美元Axion

RayAI可觀測A輪1750萬美元Patronus

AILLM安全A輪1700萬美元Dropzone

AIAI安全運(yùn)營A輪1685萬美元Andesite

AI安全分析平臺A輪1520萬美元Apptega安全合規(guī)平臺未披露1500萬美元Bolster

AI反釣魚B輪1400萬美元Aurascape

AlAI安全種子輪1280萬美元StrikeReadyAI+SOCA輪1200萬美元Prophet

SecurityAI安全運(yùn)營種子輪1100萬美元RekenAI安全種子輪1000萬美元Bedrock

Security數(shù)據(jù)安全種子輪1000萬美元AllureSecurity

TechnologyDRPA輪1000萬美元全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告國家地區(qū)企業(yè)名稱業(yè)務(wù)方向輪次融資金額美國SimbianAI安全種子輪1000萬美元Nova

Microsystems數(shù)據(jù)安全未披露1000萬美元CultureAI風(fēng)險(xiǎn)管理平臺A輪1000萬美元Abstract

SecurityAI驅(qū)動SIEM種子輪850萬美元AverlonAI安全種子輪800萬美元Dymium數(shù)據(jù)訪問控制種子輪700萬美元Good?reAI可觀測性種子輪700萬美元P0開發(fā)安全種子輪650萬美元LiminalAI治理種子輪過500萬美元Prompt

SecurityAI安全C輪500萬美元AirMDRMDR種子輪500萬美元ZEST

SecurityAI驅(qū)動云安全種子輪500萬美元PromptfooAI應(yīng)用漏洞修復(fù)種子輪500萬美元RagaAIAI安全未披露470萬美元Redcoat

AIAI安全種子輪424萬美元Trustwise

AIAI安全種子輪400萬美元HydroX

AIAI安全天使輪400萬美元Coris風(fēng)險(xiǎn)評估種子輪370萬美元KnosticAI訪問控制前種子輪330萬美元Ampli?er

SecurityAI安全自動化Pre種子輪330萬美元HoundDog.ai數(shù)據(jù)安全種子輪310萬美元SydeLabsAI安全種子輪250萬美元Bricklayer

AI安全運(yùn)營預(yù)孵化資金250萬美元EnkryptAI治理種子輪235萬美元Resonance

SecurityWeb2/Web3安全評估Pre種子輪150萬美元GuardDog

Solutions安全運(yùn)營未披露100萬美元PromptArmorAI安全Pre種子輪50萬美元Holistic

AIAI治理風(fēng)險(xiǎn)輪未披露TraceableAPI

安全未披露未披露Harmonic

SecurityAI安全種子輪未披露VelotixDSPs未披露未披露VidocSecurity

LabAI代碼安全種子輪未披露Almanax區(qū)塊鏈安全前種子輪未披露Blackbird.AI虛假信息對抗戰(zhàn)略投資未披露Haize

LabsAI安全未披露未披露VorlonAPI安全A輪未披露加拿大TrojAIAI治理種子輪580萬美元Armilla

AIAI安全未披露450萬美元AllHeart

Web數(shù)字風(fēng)險(xiǎn)防護(hù)DRP種子輪10萬美元以色列Pindrop

SecurityAI鑒偽債務(wù)融資1億美元ClarityAI安全未披露1600萬美元Aim

SecurityAI安全A輪1000萬美元國家地區(qū)企業(yè)名稱業(yè)務(wù)方向輪次融資金額以色列DeepKeepAI安全種子輪1000萬美元PVML數(shù)據(jù)訪問平臺種子輪800萬美元Seal

Security軟件供應(yīng)鏈安全未披露740萬美元ApexAI安全種子輪700萬美元Upstream

Security車聯(lián)網(wǎng)安全戰(zhàn)略融資未披露瑞典Xensam安全運(yùn)營未披露4000萬美元立陶宛Cyber

Upgrade安全運(yùn)營未披露65萬歐元愛沙尼亞BotGuardOüAnti-BotA輪1200萬歐元法國Mind?owSOAR種子輪500萬歐元澳大利亞Redactive

AIAI

DLP種子輪750萬美元Nullify開發(fā)安全種子輪520萬澳元新加坡StealthMole暗網(wǎng)情報(bào)A輪700萬美元西班牙Onum可觀測性A輪2800萬美元Nymiz隱私數(shù)據(jù)種子輪280萬歐元英國Cynomi安全運(yùn)營A輪2000萬美元qomodo工控安全Pre種子輪130萬英鎊愛爾蘭Tines安全流程自動化B輪5000萬美元印度Treacle

Technologies欺騙防御種子輪4億盧比科特迪瓦DANAYALLM身份驗(yàn)證Pre種子輪75萬歐元表：2024年全球AI安全企業(yè)融資情況從2024年全球AI安全企業(yè)融資情況表可以發(fā)現(xiàn)，AI安全創(chuàng)業(yè)公司十分活躍，資本市場對該領(lǐng)域未來的發(fā)展持續(xù)看好，并呈現(xiàn)出以下特點(diǎn)：融資金額高從融資金額來看，大額融資金額高，小額融資數(shù)量分散。從上表中可以看到，Cyera以3億美元的C輪融資金額位居首位，其次是Corelight和Huntress，均獲得了1.5億美元的融資。這三家企業(yè)均來自美國，且業(yè)務(wù)方向主要集中在AI+數(shù)據(jù)安全和AI+安全運(yùn)營領(lǐng)域。中國中科睿鑒融資金額接近1億美元關(guān)口，融資輪次未披露，其主營業(yè)務(wù)是AI反欺詐。除了大額融資外，還有大量企業(yè)獲得了數(shù)百萬至數(shù)千萬美元的融資。這些企業(yè)涵蓋了AI+隱私計(jì)算、AI+車聯(lián)網(wǎng)安全等多個(gè)領(lǐng)域，顯示出AI安全領(lǐng)域的投融資活躍度。這些初創(chuàng)企業(yè)在早期階段就能獲得相對較高的融資金額，顯示出投資者對其未來發(fā)展的信心。從投融資輪次分析，種子輪和天使輪融資事件占比較高。這表明AI網(wǎng)絡(luò)安全領(lǐng)域仍處于快速發(fā)展階段，大量初創(chuàng)企業(yè)涌入該領(lǐng)域?qū)で蟀l(fā)展機(jī)會。但隨著AI網(wǎng)絡(luò)安全市場的不斷成熟，部分企業(yè)開始進(jìn)入A輪、B輪等中后期融資階段，這些企業(yè)通常已經(jīng)在市場中取得了一定的份額和影響力，正在尋求更多的資金支持以加速發(fā)展。這反映出市場對企業(yè)發(fā)展速度和規(guī)模的要求逐漸提高。除了傳統(tǒng)的股權(quán)融資外，部分企業(yè)還通過債務(wù)融資等方式籌集資金，顯示出AI網(wǎng)絡(luò)安全企業(yè)在融資方式上的多樣性和靈活性。融資活動全球化從地區(qū)分布來看，硅谷、北京、上海等國際大都市已經(jīng)成為AI網(wǎng)絡(luò)安全領(lǐng)域的重要集聚地，這些地區(qū)匯聚了大量的創(chuàng)新資源和人才優(yōu)勢，為企業(yè)的發(fā)展提供了良好的環(huán)境和條件。09

PAGEPAGE

10全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告風(fēng)險(xiǎn)預(yù)測與策略優(yōu)化：AI技術(shù)通過分析歷史攻擊數(shù)據(jù)和網(wǎng)絡(luò)安全日志，預(yù)測未來可能面臨的安全風(fēng)險(xiǎn)，幫助安全運(yùn)營團(tuán)隊(duì)提前做好準(zhǔn)備，調(diào)整防御策略智能化的安全保障：AI技術(shù)使得安全保障系統(tǒng)能夠動態(tài)地學(xué)習(xí)和適應(yīng)不斷變化的威脅環(huán)境，通過深度分析網(wǎng)絡(luò)流量和用戶行為，更準(zhǔn)確地識別出潛在的威脅數(shù)據(jù)安全是AI安全投融資熱度第三的細(xì)分方向，占總投融資事件比例達(dá)到8%。一方面，AI的發(fā)展帶來數(shù)據(jù)安全問題，包括大規(guī)模數(shù)據(jù)采集與個(gè)人隱私風(fēng)險(xiǎn)，AI對數(shù)據(jù)的依賴性及其衍生問題；網(wǎng)絡(luò)攻擊與數(shù)據(jù)泄露，數(shù)據(jù)篡改與AI模型的安全性等。另一方面，AI可進(jìn)一步賦能數(shù)據(jù)安全，包括提升數(shù)據(jù)分類分級的效率，對結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行處理；通過對進(jìn)出口流量的識別來強(qiáng)化數(shù)據(jù)安全管控；借助數(shù)據(jù)匿名化與差分隱私技術(shù)，強(qiáng)化網(wǎng)絡(luò)安全措施與加密技術(shù)等。AI正在滲透至安全各個(gè)細(xì)分領(lǐng)域，包括反欺詐、車聯(lián)網(wǎng)安全、云原生、漏洞檢測、NDR等，獲得資本市場的認(rèn)可。從2022年——2024年7月，AI安全投融資總金額持續(xù)攀升，表明市場與資本對AI安全強(qiáng)烈看好，在當(dāng)下全球網(wǎng)絡(luò)安全行業(yè)投融資不足的背景下，AI安全的火熱融資情形更加凸顯出未來市場具有龐大的想象空間。AI技術(shù)持續(xù)推動網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)創(chuàng)新。作為全球網(wǎng)絡(luò)安全行業(yè)新興技術(shù)的風(fēng)向標(biāo)，RSA

Conference創(chuàng)新沙盒大賽一直備受關(guān)注。2023年和2024年RSA

Conference的創(chuàng)新沙盒大賽冠軍都是AI安全初創(chuàng)企業(yè)，分別是HiddenLayer和RealityDefender，表面網(wǎng)絡(luò)安全行業(yè)對于AI安全技術(shù)發(fā)展趨勢的認(rèn)可。HiddenLayer

是機(jī)器學(xué)習(xí)算法和模型安全解決方案的提供商，成立于

2022

年。該公司基于輕量化的軟件平臺方案和AI大模型的能力，提供針對機(jī)器學(xué)習(xí)系統(tǒng)的威脅建模、機(jī)器學(xué)習(xí)的風(fēng)險(xiǎn)評估、人工智能

/

機(jī)器學(xué)習(xí)的模型掃描等服務(wù)，實(shí)現(xiàn)定制化的攻擊面識別、攻擊防護(hù)、攻擊模擬等功能。Reality

Defender是一家專注于利用人工智能技術(shù)檢測深度偽造和AI生成的媒體內(nèi)容的初創(chuàng)企業(yè)。該公司的創(chuàng)新技術(shù)主要是深度偽造檢測工具和多模型方法，前者可實(shí)時(shí)識別AI合成與深度偽造的欺詐、虛假信息和有害內(nèi)容，包括文本、圖像和音視頻等；后者對深度偽造檢測平臺和API對人工智能生成媒體的平臺具有強(qiáng)大的抵御能力，使團(tuán)隊(duì)能夠?qū)崟r(shí)識別欺詐、虛假信息和有害內(nèi)容。從國家分布來看，AI網(wǎng)絡(luò)安全融資呈現(xiàn)出一超多強(qiáng)格局。美國以絕對的企業(yè)融資數(shù)量成為AI網(wǎng)絡(luò)安全領(lǐng)域投融資最為活躍的國家。這主要得益于美國科技創(chuàng)新體系、金融市場成熟度、研發(fā)資源豐富度及開放創(chuàng)新文化。頂級高校與研究機(jī)構(gòu)提供人才儲備與知識產(chǎn)出，硅谷等創(chuàng)新高地匯集全球活躍風(fēng)投，形成良好投融資生態(tài)。因此，強(qiáng)大的科技創(chuàng)新能力、完善的市場環(huán)境和配套的政策支持是美國AI網(wǎng)絡(luò)安全投融資活躍的主要原因。中國在AI網(wǎng)絡(luò)安全領(lǐng)域的發(fā)展勢頭強(qiáng)勁，包括中科睿鑒、云起無垠、木衛(wèi)四等多家公司獲得了大額融資，顯示出資本市場對于AI網(wǎng)絡(luò)安全的看好。其中中科睿鑒融資金額近億元，達(dá)晨財(cái)智資本領(lǐng)投。中科睿鑒致力于運(yùn)用AI技術(shù)賦能數(shù)字內(nèi)容安全。圍繞全類型偽造檢測、多模態(tài)數(shù)據(jù)生成、內(nèi)容合規(guī)審核等核心技術(shù)，布局了“模型-數(shù)據(jù)-算力”的AI基礎(chǔ)設(shè)施，面向國家、行業(yè)、個(gè)人安全場景，提供音視圖文全棧全類型鑒偽技術(shù)和產(chǎn)品服務(wù)。資本市場的活躍與中國對科技創(chuàng)新的大力支持和龐大的市場需求密不可分。政策方面，中國陸續(xù)出臺了《新一代人工智能發(fā)展規(guī)劃》《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計(jì)劃（2018-2020年）》《關(guān)于加快推進(jìn)人工智能創(chuàng)新應(yīng)用的指導(dǎo)意見》等多部重要意見，設(shè)立科技創(chuàng)新2030—“新一代人工智能”重大項(xiàng)目，各地方政府設(shè)立相關(guān)產(chǎn)業(yè)投資基金，引導(dǎo)社會資本投入人工智能領(lǐng)域。需求方面，隨著中國經(jīng)濟(jì)的快速發(fā)展，各行各業(yè)都在尋求通過技術(shù)創(chuàng)新來提升效率和競爭力。人工智能作為一項(xiàng)顛覆性技術(shù)，能夠幫助企業(yè)實(shí)現(xiàn)自動化、智能化，推動產(chǎn)業(yè)升級和經(jīng)濟(jì)增長。從智能制造、智慧城市到醫(yī)療健康、教育、金融等領(lǐng)域，人工智能技術(shù)都有著巨大的應(yīng)用潛力。以色列緊隨其后。作為網(wǎng)絡(luò)安全老牌強(qiáng)國之一，在AI網(wǎng)絡(luò)安全領(lǐng)域也有著不俗的表現(xiàn)。多家以色列企業(yè)憑借其獨(dú)特的技術(shù)優(yōu)勢和創(chuàng)新思維獲得了國際資本市場的青睞，融資金額自700萬美元至1億美元不等。其中，PindropSecurity債務(wù)融資1億美元，Hercules

Capital領(lǐng)投。Pindrop

Security使用基于神經(jīng)網(wǎng)絡(luò)的生物識別引擎優(yōu)化語音安全，確保無縫被動身份驗(yàn)證和高效的欺詐檢測，還結(jié)合了網(wǎng)絡(luò)級數(shù)據(jù)、用戶設(shè)備和行為分析以及風(fēng)險(xiǎn)情報(bào)，以在IVR和座席級別對呼叫者進(jìn)行全面身份驗(yàn)證。隨著全球化的深入發(fā)展，AI網(wǎng)絡(luò)安全領(lǐng)域的投融資活動呈現(xiàn)出全球化趨勢，加拿大、法國、澳大利亞、英國、新加坡、西班牙、瑞典、立陶宛、愛沙尼亞、愛爾蘭、印度、科特迪瓦等國家皆有相應(yīng)的企業(yè)獲得投資，這意味著AI網(wǎng)絡(luò)安全正在被全球大多數(shù)資本看好。細(xì)分市場多樣化從細(xì)分市場來看，AI網(wǎng)絡(luò)安全的方向呈現(xiàn)出多樣化的特點(diǎn)。其中，AI安全（AI自身的安全性）占比高達(dá)23%，是最受資本和創(chuàng)業(yè)者青睞的細(xì)分方向。隨著深度學(xué)習(xí)、計(jì)算機(jī)視覺、自然語言處理等技術(shù)的不斷發(fā)展和成熟，AI的應(yīng)用領(lǐng)域和能力得到了極大的拓展。各行各業(yè)都在尋求通過AI技術(shù)提升運(yùn)營效率、創(chuàng)新服務(wù)模式，滿足市場和消費(fèi)者的新需求。大量的AI應(yīng)用需求帶來了全新的安全風(fēng)險(xiǎn)，數(shù)據(jù)顯示，AI既放大現(xiàn)有網(wǎng)絡(luò)安全威脅，又引入了新型威脅，引發(fā)網(wǎng)絡(luò)安全事件指數(shù)級增長。例如2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件數(shù)量增長了1000%。由于企業(yè)現(xiàn)有的安全體系難以有效應(yīng)對此類威脅，AI安全存在巨大的想象空間，從而吸引大量初創(chuàng)公司和資本投身于該領(lǐng)域。安全運(yùn)營是AI安全投融資熱度第二的細(xì)分方向，占總投融資事件比例達(dá)到10%。AI在安全運(yùn)營中的應(yīng)用主要體現(xiàn)在以下幾個(gè)方面：智能防御與實(shí)時(shí)監(jiān)測：AI技術(shù)通過機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法，能夠自動識別網(wǎng)絡(luò)流量和用戶行為的異常模式，實(shí)現(xiàn)實(shí)時(shí)監(jiān)測和預(yù)警。自動化響應(yīng)與處置：AI系統(tǒng)可以自動對檢測到的威脅進(jìn)行響應(yīng)，如自動加入黑名單或通知管理員。這種自動化的響應(yīng)機(jī)制提高了安全事件的處置速度，并減輕了安全團(tuán)隊(duì)的工作壓力AI安全企業(yè)并購在并購方面，過去一年內(nèi)已發(fā)生多起AI網(wǎng)絡(luò)安全公司收購事件，其中具有代表性的并購事件如下：2023年9月，思科宣布以280億美元收購Splunk，以實(shí)現(xiàn)在AI安全方面的強(qiáng)強(qiáng)聯(lián)合，推動實(shí)現(xiàn)

AI

驅(qū)動的下一代安全性和可觀測性。此次被收購方Splunk是近年來安全創(chuàng)業(yè)公司領(lǐng)域的明星公司，主要幫助企業(yè)監(jiān)控和分析數(shù)據(jù)，以最大限度地降低被黑客攻擊的風(fēng)險(xiǎn)，并更快速地解決技術(shù)問題。2024年3月，CrowdStrike宣布斥資收購Flow

Security，購?fù)瓿珊?，CrowdStrike計(jì)劃在Falcon

Cloud

Security中全面提供原生Flow

Security

DSPM功能，作為Falcon

XDR平臺的一部分，使客戶能夠整合云端解決方案并保護(hù)整個(gè)云資產(chǎn)，以進(jìn)一步加強(qiáng)其

AI

網(wǎng)絡(luò)安全解決方案。此外，CrowdStrike宣布將與戴爾（DELL.N）聯(lián)手，幫助企業(yè)利用人工智能抵御網(wǎng)絡(luò)攻擊，以防范GenAI、隱形社工攻擊和端點(diǎn)攻擊。2024年4月，私募股權(quán)巨頭ThomaBravo

宣布以

53.2

億美元的價(jià)格收購英國網(wǎng)絡(luò)安全AI公司DarktraceDarktrace。Darktrace公司成立于2013年，主要利用人工智能檢測IT網(wǎng)絡(luò)內(nèi)的攻擊和漏洞。2022年2月，Darktrace以

5370

萬美元的價(jià)格收購了攻擊面管理公司

Cybersprint，加速

Darktrace

進(jìn)入主動

AI

網(wǎng)絡(luò)安全等新領(lǐng)域。2024年7月，谷歌母公司Alphabet擬以230億美元收購以色列知名AI安全初創(chuàng)公司W(wǎng)iz，但被后者拒絕。值得注意的是，該公司2023年的收入約為3.5億美元，在最近的一輪私人融資中籌集了10億美元，估值達(dá)到120億美元。隨著網(wǎng)絡(luò)威脅的持續(xù)增長，投資者將積極投入AI防御性安全解決方案，預(yù)計(jì)未來將會有更多更多大型科技公司、網(wǎng)絡(luò)安全巨頭以及具有創(chuàng)新潛力的初創(chuàng)企業(yè)之間的戰(zhàn)略合作與并購交易。09

PAGEPAGE

11全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告Alto根據(jù)海外市場的表現(xiàn)，網(wǎng)安行業(yè)AI安全產(chǎn)品的商業(yè)化效果較好，目前已有廠商實(shí)現(xiàn)不錯(cuò)的業(yè)績，包括PaloNetworks基于AI驅(qū)動的新產(chǎn)品XSIAM；CrowdStrike公司的AI安全平臺Falcon等。AI安全產(chǎn)品的成功進(jìn)一步刺激了廠商對于其應(yīng)用方向的探索，給傳統(tǒng)的網(wǎng)絡(luò)安全產(chǎn)品帶來了新的變革。AI在產(chǎn)品自動化與智能化響應(yīng)、實(shí)時(shí)監(jiān)控與預(yù)警、優(yōu)化資源配置、增強(qiáng)用戶體驗(yàn)、跨平臺整合、持續(xù)學(xué)習(xí)與進(jìn)化、輔助決策等方面有著明顯的優(yōu)勢。因此，AI安全產(chǎn)品的主要應(yīng)用方向如下：網(wǎng)絡(luò)行為與威脅分析：AI在網(wǎng)絡(luò)行為與威脅分析中扮演著重要角色。通過AI、深度學(xué)習(xí)或機(jī)器學(xué)習(xí)技術(shù)可以實(shí)現(xiàn)監(jiān)測、理解和響應(yīng)網(wǎng)絡(luò)中的各種活動和潛在威脅。其中包括用戶和實(shí)體行為分析（UEBA）、流量分析、協(xié)議分析、應(yīng)用行為分析等，涉及沙箱、威脅情報(bào)、攻擊模擬與預(yù)測、異常檢測等技術(shù)的聯(lián)動。入侵檢測：基于AI的入侵檢測是一種利用AI技術(shù)對網(wǎng)絡(luò)或系統(tǒng)中的潛在威脅進(jìn)行識別和檢測的方法。通過分析網(wǎng)絡(luò)流量、系統(tǒng)日志和其他數(shù)據(jù)源，利用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和自然語言處理等技術(shù)來識別異常行為，從而及時(shí)發(fā)現(xiàn)并應(yīng)對網(wǎng)絡(luò)攻擊。AI可區(qū)分正常網(wǎng)絡(luò)流量和惡意入侵行為，有效發(fā)現(xiàn)網(wǎng)絡(luò)中的入侵行為，對惡意入侵行為進(jìn)行有效的檢測和分類。安全策略管理：基于AI的安全策略管理是指利用AI技術(shù)來制定、實(shí)施、監(jiān)控和優(yōu)化安全策略的過程。這種方法旨在提高安全防御的效率和準(zhǔn)確性，以應(yīng)對日益復(fù)雜的網(wǎng)絡(luò)威脅，具有高效性、實(shí)時(shí)性、智能性、可持續(xù)性等有點(diǎn)。例如自動化風(fēng)險(xiǎn)評估系統(tǒng)，對訪問請求進(jìn)行實(shí)時(shí)的風(fēng)險(xiǎn)分析和評級，根據(jù)行為分析和風(fēng)險(xiǎn)評估的結(jié)果優(yōu)化安全決策，或根據(jù)行為趨勢和風(fēng)險(xiǎn)預(yù)測自動采取防護(hù)措施。端點(diǎn)保護(hù)：基于AI的端點(diǎn)保護(hù)是一種利用AI技術(shù)來保護(hù)端點(diǎn)設(shè)備免受網(wǎng)絡(luò)攻擊的方法。通過在端點(diǎn)設(shè)備上部署AI模型，實(shí)時(shí)監(jiān)控和分析設(shè)備行為，以識別和預(yù)防潛在的威脅。AI技術(shù)的加持可簡化數(shù)據(jù)收集和分析，提升系統(tǒng)可視性和檢測異?；顒樱⒆詣訄?zhí)行大部分分析、監(jiān)視、檢測和響應(yīng)活動，使信息安全團(tuán)隊(duì)成員能夠?qū)Ｗ⒂诟邇?yōu)先級的操作。漏洞管理：基于AI技術(shù)的漏洞管理是指利用AI技術(shù)來識別、評估、優(yōu)先排序和修復(fù)軟件或系統(tǒng)中的安全漏洞的過程。這種方法通過自動化和智能化的手段，對軟件代碼、系統(tǒng)配置、網(wǎng)絡(luò)流量等進(jìn)行分析，可明顯提高了漏洞管理的效率、準(zhǔn)確性和優(yōu)先級。例如AI可生成基于場景的漏洞風(fēng)險(xiǎn)評分，確定優(yōu)先級排序，幫助安全團(tuán)隊(duì)優(yōu)先處理最關(guān)鍵的漏洞。垃圾郵件處理與反釣魚：基于AI的垃圾郵件處理與反釣魚技術(shù)是一種利用AI的強(qiáng)大數(shù)據(jù)處理和智能分析能力，提高電子郵件安全性和反釣魚技術(shù)的一種方法。通過分析大量郵件數(shù)據(jù)，學(xué)習(xí)識別垃圾郵件的特征，AI可提取出更加復(fù)雜和抽象的特征，提高過濾的準(zhǔn)確率。和傳統(tǒng)垃圾郵件處理方式相比，AI可更好地適應(yīng)不斷變化的垃圾郵件發(fā)送方式，具有更強(qiáng)的魯棒性。另外AI在反釣魚方面已經(jīng)展現(xiàn)出新的潛力，其核心優(yōu)勢包括釣魚郵件類型的覆蓋、意圖提取與分析能力以及多語言能力等，可有效應(yīng)對和檢測各類復(fù)雜的釣魚郵件。數(shù)據(jù)與文件分類：基于AI技術(shù)的數(shù)據(jù)與文件分類是一種利用AI算法自動識別、分類和管理數(shù)據(jù)及文件的方法。這種方法根據(jù)文件內(nèi)容、元數(shù)據(jù)或其他特征將文件分配到預(yù)定義的類別中，可以幫助組織更有效地保護(hù)信息資產(chǎn)，提高工作效率和安全性，具有自動化、準(zhǔn)確性高、可拓展性強(qiáng)、實(shí)時(shí)更新等優(yōu)勢。安全知識問答：基于AI技術(shù)的安全知識問答是一種利用人工智能技術(shù)來提供安全相關(guān)知識和信息的服務(wù)。這種方法通過自然語言處理（NLP）技術(shù)，理解用戶的問題，并提供準(zhǔn)確的安全建議或解決方案。AI安全知識問答具有自然語言理解的能力，根據(jù)對話管理判斷應(yīng)該采取的策略，生成相應(yīng)的回答，可有效提升服務(wù)效率，增強(qiáng)用戶體驗(yàn)。全球AI安全產(chǎn)品主要產(chǎn)品形態(tài)目前國外的AI安全產(chǎn)品商業(yè)化推進(jìn)較快，已經(jīng)有不少成熟的AI安全產(chǎn)品進(jìn)入市場，并得到了不分企業(yè)用戶的肯定。全球網(wǎng)絡(luò)安全的頭部廠商紛紛加快AI安全產(chǎn)品的動作，既是快速搶占尚未填滿的空白市場，也是在網(wǎng)絡(luò)安全智能化大戰(zhàn)略布局上的先手。AI安全產(chǎn)品的落地提高了安全防護(hù)的效率和智能化水平，通過智能分類分級、安全策略配置、數(shù)據(jù)脫敏等技術(shù)，為企業(yè)提供全方位的數(shù)據(jù)安全解決方案。總的來看，AI安全產(chǎn)品主要分為安全助手產(chǎn)品（AI

Copilot）和AI驅(qū)動的安全平臺。（一）國外AI安全產(chǎn)品分析安全助手產(chǎn)品安全助手是AI與網(wǎng)絡(luò)安全相結(jié)合最早的產(chǎn)品形態(tài)，也是目前大部分生成式AI產(chǎn)品聚焦的方向。AI安全助手產(chǎn)品是基于AI技術(shù)，專門為網(wǎng)絡(luò)安全領(lǐng)域設(shè)計(jì)的智能助手，通過對話的方式為用戶解決安全相關(guān)的問題，可與安全工具、安全產(chǎn)品進(jìn)行聯(lián)動，以便更有效應(yīng)對網(wǎng)絡(luò)安全威脅。AI安全助手可以快速理解并挑選合適的插件來回答用戶的需求，支持文字交互，文件、圖片的方式，以及插件擴(kuò)展，從而提高工作效率。這是其核心價(jià)值所在，不僅提高了安全專家的工作效率，也降低了非安全工程師完成安全相關(guān)任務(wù)的難度。隨著AI技術(shù)的不斷進(jìn)步，AI安全助手有望在未來成為網(wǎng)絡(luò)安全領(lǐng)域的重要輔助工具。AI安全助手應(yīng)具備自然語言理解能力、上下文關(guān)聯(lián)能力、網(wǎng)安領(lǐng)域?qū)I(yè)化能力、輸出能力、插件擴(kuò)展等多種能力。自然語言理解能力：能夠理解用戶的自然語言輸入，無需特定格式的命令，支持多種語言類型。上下文關(guān)聯(lián)能力：能夠在對話中理解上下文，執(zhí)行多個(gè)任務(wù)并綜合回答。網(wǎng)安領(lǐng)域?qū)I(yè)化能力：能夠準(zhǔn)確理解安全行業(yè)專業(yè)術(shù)語，并輸出相應(yīng)的專業(yè)內(nèi)容。輸出能力：可根據(jù)用戶的問題輸出各種內(nèi)容，執(zhí)行用戶下達(dá)的各項(xiàng)指令，以及其他預(yù)設(shè)安全策略等。插件擴(kuò)展：支持靈活的插件擴(kuò)展，以適應(yīng)不同的安全需求。AI安全助手具備安全咨詢、自動化任務(wù)執(zhí)行、安全事件響應(yīng)、風(fēng)險(xiǎn)評估、知識庫和情報(bào)集成、可視化與報(bào)告生成等核心功能。安全咨詢：提供有關(guān)網(wǎng)絡(luò)安全、數(shù)據(jù)保護(hù)、合規(guī)性等方面的建議和信息，快速回答網(wǎng)絡(luò)安全問題，輔助安全分析和運(yùn)維工作。自動化任務(wù)執(zhí)行：根據(jù)預(yù)設(shè)的安全策略自動化執(zhí)行各項(xiàng)安全操作，例如自動化執(zhí)行滲透測試、更新安全規(guī)則、修復(fù)已知漏洞等，輔助用戶完成網(wǎng)絡(luò)安全相關(guān)的任務(wù)。安全事件響應(yīng)：在檢測到威脅后，能夠自動采取預(yù)定義的措施進(jìn)行初步應(yīng)對，例如隔離受感染的系統(tǒng)、阻斷惡意IP地址或執(zhí)行緊急補(bǔ)丁安裝等。風(fēng)險(xiǎn)評估：監(jiān)控和分析網(wǎng)絡(luò)流量，識別系統(tǒng)潛在的安全威脅，包括異常行為、惡意軟件等，評估組織的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)狀況，并提供降低風(fēng)險(xiǎn)的建議。知識庫和情報(bào)集成：整合來自多個(gè)來源的安全知識庫和最新威脅情報(bào)，提供防護(hù)策略建議，幫助用戶了解當(dāng)前威脅環(huán)境和最佳實(shí)踐?？梢暬c報(bào)告生成：將復(fù)雜的安全數(shù)據(jù)和分析結(jié)果以直觀的圖表和報(bào)告形式展示，幫助安全分析師快速將安全狀況轉(zhuǎn)化成報(bào)告。個(gè)性化學(xué)習(xí)與適應(yīng)能力：根據(jù)用戶的行為和組織的網(wǎng)絡(luò)環(huán)境進(jìn)行自我學(xué)習(xí)和優(yōu)化，逐漸了解特定組織的業(yè)務(wù)流程和安全需求，提供定制化的安全建議和服務(wù)。13

PAGEPAGE

14全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告安全策略管理：根據(jù)用戶需求制定、實(shí)時(shí)調(diào)整安全策略，例如動態(tài)管理用戶身份和訪問權(quán)限等，自動調(diào)整安全配置，以適應(yīng)不斷變化的威脅環(huán)境。國外安全廠商已經(jīng)陸續(xù)推出多款A(yù)I安全助手產(chǎn)品，例如Microsoft

Copilot

for

Security/Fortinet

Advisor/CrowdstrikeCharlotte。Microsoft

Copilot

for

SecurityMicrosoft

Copilot

for

Security于2024年4月1日正式上線，是一款基于OpenAI

LLM大模型的安全助手，可幫助安全人員以更快地速度，更高的準(zhǔn)確度發(fā)現(xiàn)、識別并處理網(wǎng)絡(luò)威脅。借助生成式AI技術(shù)以及融合微軟情報(bào)體系，Microsoft

Copilot

for

Security可快速處理大量數(shù)據(jù)，發(fā)現(xiàn)潛在的安全風(fēng)險(xiǎn)并進(jìn)行深度威脅分析，確定風(fēng)險(xiǎn)處理優(yōu)先級排序，為安全人員提供安全分析和決策支持，提升安全團(tuán)隊(duì)響應(yīng)速度，從而提升整體安全能力。Microsoft

Copilot

for

Security扮演著“安全專家”的角色，安全人員只需以自然語言描述即可獲得專業(yè)化能力支撐，通過自動化執(zhí)行安全任務(wù)可有效減少低級/高重復(fù)度工作，簡化了安全操作過程，提高安全部門的工作效率。MicrosoftCopilot

forSecurity能夠理解并回應(yīng)8種語言，產(chǎn)品界面支持25種不同語言，具有個(gè)人化提示手冊（Custompromptbooks）、知識庫整合（Knowledgebase

integrations）的預(yù)覽版，可與Microsoft

的多個(gè)安全產(chǎn)品集成，可通過插件與第三方服務(wù)集成。Microsoft

Copilot

for

Security主要應(yīng)用場景包括威脅檢測與響應(yīng)、安全合規(guī)性管理、安全數(shù)據(jù)分析、安全培訓(xùn)與模擬、安全自動化工作流以及安全咨詢等。Fortinet

AdvisorFortinet

Advisor

是

Fortinet

最新推出的生成式

AI

安全助手，旨在幫助安全運(yùn)營（SecOps）團(tuán)隊(duì)加速威脅調(diào)查和修復(fù)，提高安全團(tuán)隊(duì)的技能和效率，從而增強(qiáng)企業(yè)整體的網(wǎng)絡(luò)安全防護(hù)能力。Fortinet

Advisor

能夠幫助安全分析師構(gòu)建復(fù)雜調(diào)查查詢，通過自然語言輸入提問即可生成問詢結(jié)果，能夠快速分析安全告警，生成易于理解的事件摘要，提供威脅修復(fù)計(jì)劃建議，幫助安全團(tuán)隊(duì)快速響應(yīng)威脅，并可根據(jù)分析師的實(shí)時(shí)反饋進(jìn)一步完善所建議的響應(yīng)計(jì)劃。安全架構(gòu)師可以通過咨詢

Fortinet

Advisor

來生成

Playbook

模板，快速將流程轉(zhuǎn)化為可執(zhí)行的計(jì)劃。目前FortinetAdvisor

已無縫集成至

Fortinet

安全信息和事件管理解決方案

FortiSIEM

以及

Fortinet

安全編排、自動化和響應(yīng)解決方案FortiSOAR

中，幫助用戶將威脅識別和遏制所需時(shí)間從

20

多天銳減至

1

小時(shí)內(nèi)，并將威脅調(diào)查和修復(fù)時(shí)間從

18

小時(shí)以上縮減至

15

分鐘以內(nèi)。CrowdStrike

CharlotteCrowdStrike

Charlotte是CrowdStrike重磅推出的生成式AI安全助手，通過自然語言處理技術(shù)，理解并回答用戶的問題，提供快速、準(zhǔn)確的信息，旨在提高網(wǎng)絡(luò)安全團(tuán)隊(duì)的效率。CrowdStrike

Charlotte可以自動執(zhí)行數(shù)據(jù)收集、提取和基本威脅搜索等任務(wù)，簡化高級安全操作，也可以執(zhí)行實(shí)時(shí)響應(yīng)腳本，幫助用戶快速消除威脅，例如殺死進(jìn)程、隔離可疑文件等。具有獨(dú)特的人類驗(yàn)證內(nèi)容數(shù)據(jù)集，包括來自

FalconOverWatch

管理的威脅狩獵、Falcon

Complete

管理的檢測和響應(yīng)、CrowdStrike

服務(wù)和

CrowdStrike

情報(bào)的反饋。CrowdStrike

Charlotte的核心優(yōu)勢之一，通過提高安全操作的效率和自動化響應(yīng)能力，將檢測到響應(yīng)的時(shí)間從小時(shí)甚至天數(shù)縮短到了幾秒鐘，顯著提升了客戶的安全防護(hù)能力，并減少了人工操作的需求，釋放了更多的人力資源用于戰(zhàn)略性任務(wù)。所提供的答案都可以追溯到原始數(shù)據(jù)，確保透明度和可審計(jì)性，用戶可以檢查底層源數(shù)據(jù)，確保AI提供的見解和推薦可信。AI驅(qū)動的安全平臺以AI驅(qū)動的安全平臺是AI安全另外一種重要的應(yīng)用場景，集成了包括AI技術(shù)在內(nèi)的安全解決方案，通過機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、自動化處理、數(shù)據(jù)分析等技術(shù)來提升平臺的整體安全能力。和AI安全助手產(chǎn)品相比，AI安全平臺具有更加全面的功能和更加廣泛的范圍。AI安全平臺旨在提供一個(gè)更加智能和主動的安全防護(hù)機(jī)制，以應(yīng)對日益復(fù)雜和隱蔽的網(wǎng)絡(luò)攻擊，通常具備高級威脅檢測、自動化安全任務(wù)、智能安全運(yùn)維、工具集成和拓展、高級分析和響應(yīng)、統(tǒng)一管理控制臺等特點(diǎn)。高級威脅檢測：實(shí)時(shí)監(jiān)控網(wǎng)絡(luò)、系統(tǒng)和設(shè)備，快速檢測威脅，包括未知威脅如零日攻擊，分析歷史數(shù)據(jù)預(yù)測潛在威脅，采取更主動防御措施。自動化安全任務(wù)：自動化執(zhí)行重復(fù)性任務(wù)，如日志分析、漏洞掃描和補(bǔ)丁管理，減輕安全團(tuán)隊(duì)負(fù)擔(dān)。智能安全運(yùn)維：可實(shí)現(xiàn)從安全分析到響應(yīng)處置全流程閉環(huán)，將AI融入事件分析研判、可視化編排等技術(shù)之中，通過與專家經(jīng)驗(yàn)進(jìn)行有機(jī)整合。工具集成和拓展：AI安全平臺一般會集成多種安全工具和流程，實(shí)現(xiàn)自動化的威脅檢測、響應(yīng)和修復(fù)，同時(shí)支持?jǐn)U展，以適應(yīng)不同規(guī)模的組織和不斷變化的安全需求。高級分析和響應(yīng)：平臺可以執(zhí)行高級的安全分析，包括用戶和實(shí)體行為分析（UEBA）、安全信息和事件管理（SIEM）等，并能夠自動響應(yīng)安全事件。統(tǒng)一管理控制臺：平臺提供統(tǒng)一的管理控制臺，使得安全團(tuán)隊(duì)能夠從一個(gè)中心位置監(jiān)控和管理整個(gè)安全態(tài)勢。目前海外已經(jīng)有頭部安全廠商陸續(xù)推出多款A(yù)I安全平臺產(chǎn)品，例如Palo

Alto

Networks公司的Cortex?

XSIAM（擴(kuò)展安全智能和自動化管理）、Vectra

公司的

Cognito平臺和CrowdStrike公司的

Falcon平臺。Cortex?

XSIAM平臺Cortex?

XSIAM平臺是一個(gè)云交付的集成SOC平臺，將EDR、XDR、SOAR、ASM、UEBA、TIP和SIEM等多個(gè)產(chǎn)品和功能整合到一個(gè)集成平臺中，底層完全由AI驅(qū)動，統(tǒng)一了一系列的安全能力。該平臺通過擴(kuò)展型安全智能和自動化管理，將各種基礎(chǔ)架構(gòu)遙測數(shù)據(jù)轉(zhuǎn)化成智能數(shù)據(jù)基礎(chǔ)，加快威脅響應(yīng)速度。XSIAM利用機(jī)器學(xué)習(xí)模型來識別和響應(yīng)安全威脅，提供快速準(zhǔn)確的威脅檢測和響應(yīng)能力，能夠整合來自不同來源的安全數(shù)據(jù)，并自動化處理大部分安全事件，減少人工干預(yù)的需求。它還提供了對云資產(chǎn)、事件、覆蓋范圍和漏洞的可見性，并通過與Prisma

Cloud集成以增強(qiáng)事件分組與導(dǎo)航功能。XSIAM

2.0增加了全新的自定義機(jī)器學(xué)習(xí)（BYOML）框架，允許用戶集成定制的機(jī)器學(xué)習(xí)模型，實(shí)現(xiàn)第三方EDR數(shù)據(jù)的出色整合，并且還可以充分利用云檢測和響應(yīng)功能。Vectra

Cognito平臺Vectra是AI驅(qū)動網(wǎng)絡(luò)安全的頭部企業(yè)，旗下Cognito平臺以AI為驅(qū)動，結(jié)合機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù)，可以自動執(zhí)行威脅響應(yīng)任務(wù)，減少人工干預(yù)的需求，提升檢測和響應(yīng)網(wǎng)絡(luò)攻擊靈敏度的安全解決方案。通過自動化威脅檢測和響應(yīng)，Cognito平臺有效提高了SOC（安全運(yùn)營中心）的效率和響應(yīng)速度，并且可以根據(jù)威脅的潛在影響和嚴(yán)重程度自動對檢測到的威脅進(jìn)行優(yōu)先排序，極大地降低了安全團(tuán)隊(duì)的負(fù)擔(dān)，幫助安全團(tuán)隊(duì)將精力集中在最關(guān)鍵的事件上。Cognito

平臺的

AI

引擎還可分析大量網(wǎng)絡(luò)元數(shù)據(jù)，包括流量模式、用戶行為和云交互，能夠檢測已知威脅以及可能逃避傳統(tǒng)安全措施的潛在攻擊的細(xì)微指標(biāo)。CrowdStrike

Falcon平臺CrowdStrike

Falcon平臺是一款基于云原生架構(gòu)和集成的XDR解決方案提供全面的終端安全服務(wù)，是CrowdStrike公司的明顯產(chǎn)品，引入AI技術(shù)驅(qū)動增強(qiáng)了該平臺的能力，顯著提升了安全運(yùn)營的效率和響應(yīng)速度。15

PAGEPAGE

16全球AI網(wǎng)絡(luò)安全產(chǎn)品洞察報(bào)告通過AI和機(jī)器學(xué)習(xí)算法，F(xiàn)alcon平臺能夠?qū)崟r(shí)監(jiān)測和分析網(wǎng)絡(luò)流量，自動檢測可疑活動，幫助組織及時(shí)響應(yīng)安全事件。此外它還能夠?qū)崟r(shí)檢測高級威脅，提供比傳統(tǒng)微軟解決方案更高的檢測準(zhǔn)確性和響應(yīng)速度。AI技術(shù)的引入使得Falcon平臺可以更順暢地自動執(zhí)行威脅響應(yīng)任務(wù)，減少人工干預(yù)的需求，提高安全運(yùn)營的效率，進(jìn)一步將從檢測到響應(yīng)的時(shí)間從小時(shí)甚至天數(shù)縮短到了幾秒鐘。國內(nèi)AI安全產(chǎn)品發(fā)展較歐美市場晚，盡管2023年為萌芽之年，當(dāng)年也有十余家安全企業(yè)發(fā)布AI安全產(chǎn)品，2024年AI安全產(chǎn)品的競爭將全面鋪開。頭部網(wǎng)絡(luò)安全廠商的戰(zhàn)略部署中，AI安全產(chǎn)品是不可或缺的一環(huán)。在大模型落地方式上，以私有化本地化部署為主，同時(shí)考慮算力成本以及大模型本地實(shí)施需求，以及國內(nèi)政府、金融等頭部客戶對數(shù)據(jù)安全要求較高，訓(xùn)練/推理一體機(jī)的模式可能成為主流，但混合部署模式易帶來管理、維護(hù)、運(yùn)營效率低下等問題，未來云安全一體化仍然是重要趨勢。目前來看，國內(nèi)AI安全產(chǎn)品的模式主要分為三類，分別是AI安全助手、AI驅(qū)動的安全平臺和AI賦能安全產(chǎn)品，后者是通過將AI技術(shù)與安全產(chǎn)品深度融合，全面提升安全產(chǎn)品的能力。例如以AI技術(shù)賦能威脅檢測與響應(yīng)、身份認(rèn)證和行為分析、反欺詐與風(fēng)險(xiǎn)控制、惡意行為檢測、安全托管服務(wù)（MSS）、SecOps、數(shù)據(jù)安全等。AI安全助手