ChatGPT 對(duì)網(wǎng)絡(luò)安全的影響

一前言過(guò)去一段時(shí)間，整個(gè)互聯(lián)網(wǎng)科技圈被一個(gè)來(lái)自美國(guó)的攪局者--ChatGPT徹底霸榜，甚至全社會(huì)普通大眾都在開(kāi)始談?wù)揅hatGPT，ChatGPT已經(jīng)成為了全球月活最快破億的消費(fèi)應(yīng)用。雖然ChatGPT國(guó)內(nèi)仍然用不了，但絲毫不影響關(guān)于它的消息出現(xiàn)在各個(gè)平臺(tái)，刷了一遍又一遍的屏。面對(duì)新鮮事物，好奇與對(duì)未知的抵觸總是相伴而來(lái)的，特別是國(guó)內(nèi)互聯(lián)網(wǎng)表現(xiàn)得又如此急切，在對(duì)ChatGPT的討論里，態(tài)度總是身處兩極：一方是片面神化，把ChatGPT的出現(xiàn)認(rèn)為是宣告新時(shí)代的到來(lái)，無(wú)所不能、無(wú)處不在，充滿(mǎn)了對(duì)未來(lái)的想象。而另一方則認(rèn)為熱度的背后全是資本的炒作、新瓶舊酒，無(wú)非是又一個(gè)新的韭菜切割器，充滿(mǎn)了對(duì)其不屑。作為一個(gè)新鮮事物被推到了風(fēng)口浪尖，ChatGPT到底是新一代神器還是圖個(gè)樂(lè)的玩具、亦或割韭菜的工具？打破對(duì)新鮮事物好奇與抵觸最佳方式就是更多地了解它、甚至盡可能親自去用一用。作為信息安全相關(guān)產(chǎn)業(yè)的從業(yè)者，出于本能的反應(yīng)都會(huì)去思考這樣的問(wèn)題：ChatGPT這個(gè)互聯(lián)網(wǎng)上滋生出來(lái)的新事物對(duì)信息安全相關(guān)產(chǎn)業(yè)將帶來(lái)什么樣的影響？二關(guān)于ChatGPT1、ChatGPT是什么?ChatGPT--可能很多人被這個(gè)縮寫(xiě)的名字搞糊涂了，第一眼無(wú)法看出到底什么意思，GPT的英文原文是GenerativePre-trainingTransformer（預(yù)訓(xùn)練生成模型），業(yè)界有人將ChatGPT概括為聊天機(jī)器人+搜索工具+文本創(chuàng)造工具的組合，或者簡(jiǎn)單理解它是一個(gè)生成式AI（內(nèi)容生成器）。GPT是由OpenAI開(kāi)發(fā)的自然語(yǔ)言處理（NLP）模型。這些模型經(jīng)過(guò)訓(xùn)練，可以生成類(lèi)似于人類(lèi)書(shū)寫(xiě)的文本，并且是NLP的重大進(jìn)步。它使用一種稱(chēng)為轉(zhuǎn)換器架構(gòu)的深度學(xué)習(xí)技術(shù)，通常用于語(yǔ)言翻譯和文本生成等NLP任務(wù)。目前ChatGPT是基于GPT-3模型的變體，它是利用復(fù)雜的深度學(xué)習(xí)系統(tǒng)來(lái)創(chuàng)建內(nèi)容，并在大量公開(kāi)可用的在線(xiàn)文本（如維基百科）上進(jìn)行訓(xùn)練。模型允許有效理解自然語(yǔ)言，并使用潛在結(jié)果的概率分布。GPT-3對(duì)這些進(jìn)行采樣（有一定隨機(jī)性），因此文本響應(yīng)永遠(yuǎn)不會(huì)相同。2、ChatGPT能做什么？ChatGPT能做什么？它的主要功能是協(xié)助回答問(wèn)題、提供信息和生成有關(guān)歷史、科學(xué)、地理等各種主題的信息，這些信息僅限于它所接受的訓(xùn)練（因?yàn)樗鼰o(wú)法主動(dòng)瀏覽互聯(lián)網(wǎng)），但其知識(shí)在不斷擴(kuò)展。3、ChatGPT牛在哪里？拿搜索引擎來(lái)說(shuō)，誕生了二十多年的搜索引擎發(fā)展并不是線(xiàn)性的，而是隨著信息量的指數(shù)增大，跳躍式在發(fā)展。第一代的搜索引擎WWW（WorldWideWebWanderer），只是個(gè)存放網(wǎng)站網(wǎng)址以及標(biāo)題的目錄，甚至沒(méi)有提供跳轉(zhuǎn)服務(wù)；隨著技術(shù)的發(fā)展，搜索引擎可以不局限于網(wǎng)站標(biāo)題產(chǎn)生標(biāo)簽，進(jìn)入文本檢索時(shí)代。第二代的搜索引擎可以初步找到自己想要的內(nèi)容，受限制的僅僅只是數(shù)據(jù)庫(kù)的容量。反饋的搜索結(jié)果跟用戶(hù)搜索內(nèi)容有直接關(guān)系，它更像是一個(gè)超大的文本檢索器，返回的是包含關(guān)鍵詞的清單；第三代搜索引擎是谷歌引領(lǐng)開(kāi)發(fā)的，它把反饋回來(lái)的數(shù)據(jù)整合成一個(gè)門(mén)戶(hù)網(wǎng)站的界面，一個(gè)個(gè)外鏈組合成了一個(gè)完整的信息世界。到了這個(gè)時(shí)候，搜索引擎其實(shí)已經(jīng)固定下來(lái)了，只剩下如何精準(zhǔn)地通過(guò)關(guān)鍵詞來(lái)判斷用戶(hù)的真正查詢(xún)目的這一個(gè)問(wèn)題了。如何不讓用戶(hù)再次篩選，直接把精篩過(guò)的高相關(guān)內(nèi)容直接送到用戶(hù)眼前，現(xiàn)在的搜索引擎還做不到這點(diǎn)。但是，最后這個(gè)問(wèn)題ChatGPT能做到！ChatGPT能理解你的意思、整合信息、反饋出更直接的結(jié)果。ChatGPT為什么顯得格外聰明？或者說(shuō)它是怎么理解我們的？不是它理解了這個(gè)世界的規(guī)則，而是它把概率學(xué)玩轉(zhuǎn)的同時(shí)還學(xué)會(huì)了按人類(lèi)的方式去表達(dá)。ChatGPT背后的AI模型的訓(xùn)練過(guò)程，就是讓AI不斷進(jìn)行填詞考試，輸入一個(gè)字、一句話(huà)，讓程序去預(yù)測(cè)出現(xiàn)概率最高的下一個(gè)字、下一句話(huà)。ChatGPT用到了3000億單詞的語(yǔ)料數(shù)據(jù)和1750億的參數(shù)。前者是喂給程序的訓(xùn)練資料，后者基于訓(xùn)練資料ChatGPT模型對(duì)世界的理解，一定程度上說(shuō)，這個(gè)參數(shù)量級(jí)越大，AI模型就越可靠，越能理解提問(wèn)。在ChatGPT身上還做了一項(xiàng)訓(xùn)練--人類(lèi)偏好處理，即從人類(lèi)的反饋中讓AI學(xué)會(huì)理解人類(lèi)，因此ChatGPT相比前輩更知道哪種答案才是人類(lèi)想要的，所以ChatGPT牛在：（1）它是個(gè)通用的模型，只要提示詞引導(dǎo)，就能快速適應(yīng)不同領(lǐng)域。（2）它能理解你的問(wèn)題，只要給的引導(dǎo)越多，它就能給出你想要的答案。由此可以想象更智能的客服、更能聽(tīng)懂你話(huà)的AI、會(huì)教你買(mǎi)東西的導(dǎo)購(gòu)、一鍵生成代碼的遠(yuǎn)程指導(dǎo)......，一切皆有可能。當(dāng)下，ChatGPT還存在落地成本高、結(jié)果不穩(wěn)定、推理能力有限（有時(shí)需要我們逐步引導(dǎo)）、更新困難（指模型更新困難）等問(wèn)題，但絲毫不能懷疑它將開(kāi)創(chuàng)嶄新的無(wú)窮未來(lái)。三ChatGPT對(duì)網(wǎng)絡(luò)安全的影響眾所周知，AI對(duì)網(wǎng)絡(luò)安全帶來(lái)了巨大而深刻的影響，它既被用來(lái)改進(jìn)和加強(qiáng)網(wǎng)絡(luò)安全解決方案，幫助人類(lèi)分析師更快地分類(lèi)威脅和修復(fù)漏洞，也被黑客用來(lái)發(fā)動(dòng)更大規(guī)模、更復(fù)雜的網(wǎng)絡(luò)攻擊。那么以AI為核心的ChapGPT又能給網(wǎng)絡(luò)安全帶來(lái)什么新的影響呢？我們可以從以下兩方面展開(kāi)來(lái)看：1、ChatGPT帶來(lái)的網(wǎng)絡(luò)安全新威脅首先，從開(kāi)展網(wǎng)絡(luò)攻擊的角度來(lái)看，ChatGPT這類(lèi)生成式人工智能是偏向于威脅行為者的。生成式AI能提供所要求的內(nèi)容--這極大有利于制作網(wǎng)絡(luò)釣魚(yú)電子郵件。它通過(guò)獲取的信息，利用額外的上下文關(guān)聯(lián)關(guān)系，并根據(jù)其理解得出結(jié)論。ChatGPT可以毫不費(fèi)力地創(chuàng)建大量復(fù)雜的網(wǎng)絡(luò)釣魚(yú)電子郵件，甚至它還可以創(chuàng)建非常逼真的虛假配置文件，這樣滲透進(jìn)入過(guò)去被認(rèn)為機(jī)器不適合或不擅長(zhǎng)的領(lǐng)域（如LinkedIn等等），偽造出令人信服的資料甚至圖片。其次，目前已經(jīng)看到有威脅行為者正在使用ChatGPT來(lái)開(kāi)發(fā)惡意軟件。雖然ChatGPT的代碼編寫(xiě)能力的質(zhì)量結(jié)果好壞參半，但專(zhuān)門(mén)從事代碼開(kāi)發(fā)的生成式AI可以極大地加速惡意軟件的開(kāi)發(fā)速度。這種開(kāi)發(fā)速度的加快直觀(guān)的結(jié)果就是它有助于更快地利用漏洞，在漏洞披露后的幾個(gè)小時(shí)內(nèi)即可開(kāi)發(fā)出直接利用漏洞來(lái)開(kāi)展攻擊的工具，而不是過(guò)去的幾天后才開(kāi)發(fā)出工具來(lái)利用它。再者，ChatGPT大大降低了威脅參與者基于技能的進(jìn)入成本。目前，威脅的復(fù)雜性或多或少與威脅行為者的技能水平有關(guān)，但ChatGPT已經(jīng)將惡意軟件空間開(kāi)放到一個(gè)全新的新手威脅參與者水平上，他們參與門(mén)檻極大地降低，因?yàn)樗粌H擴(kuò)大了潛在威脅的數(shù)量，將潛在威脅行為者的數(shù)量擴(kuò)大到了令人震驚的程度，而且還使那些幾乎不知道自己在做什么的人更有可能加入戰(zhàn)斗。由于ChatGPT的迭代和改進(jìn)速度驚人，依托它來(lái)開(kāi)展的網(wǎng)絡(luò)攻擊能力水平能得到同步進(jìn)化，可以說(shuō)它在發(fā)現(xiàn)漏洞方面越來(lái)越快、越來(lái)越聰明，在編程實(shí)現(xiàn)漏洞利用方面越來(lái)越及時(shí)、越來(lái)越成熟高效，新發(fā)現(xiàn)的漏洞的武器化時(shí)間必將越來(lái)越短。具體展開(kāi)來(lái)分析，ChatGPT新增的惡意用途表現(xiàn)為：（1）整合多種惡意軟件過(guò)去的惡意軟件往往相對(duì)獨(dú)立，都在針對(duì)某些或某類(lèi)暴露出來(lái)的漏洞進(jìn)行攻擊，有點(diǎn)單點(diǎn)定向攻擊的味道，比較難以擴(kuò)散，但ChatGPT出現(xiàn)后，正如網(wǎng)絡(luò)安全出版商CyberArk報(bào)道的那樣，新的病毒或攻擊武器可以在ChatGPT的幫助下讓過(guò)去能被阻止、檢測(cè)、過(guò)濾的病毒獲得新生，因?yàn)樗梢酝ㄟ^(guò)精確地引導(dǎo)攻擊請(qǐng)求，ChatGPT就可以生成網(wǎng)絡(luò)犯罪分子過(guò)去難以整合的代碼，從而打出組合拳，實(shí)現(xiàn)全面的立體攻擊甚至自動(dòng)化智能攻擊。（2）提升漏洞發(fā)現(xiàn)能力ChatGPT具有強(qiáng)大的分析功能。通過(guò)向ChatGPT提供源代碼甚至部分泄露出來(lái)的源代碼，ChatGPT就有能力檢測(cè)出其中可能的漏洞，目前據(jù)報(bào)道已經(jīng)有黑客在漏洞賞金計(jì)劃期間使用了這種技術(shù)，并且獲得成功（比如通過(guò)分析PHP代碼片段，ChatGPT發(fā)現(xiàn)了通過(guò)數(shù)據(jù)庫(kù)訪(fǎng)問(wèn)用戶(hù)名的可能性以及方法和路徑）。因此，可以肯定的是，網(wǎng)絡(luò)犯罪分子已經(jīng)開(kāi)始使用它來(lái)嘗試發(fā)現(xiàn)新的漏洞。（3）給新手黑客賦能過(guò)去我們往往認(rèn)為黑客都具備很高的技術(shù)技能，但ChatGPT出現(xiàn)后新手黑客（scriptkiddie）大量涌現(xiàn)，他們并沒(méi)有很高的技術(shù)技能，其活動(dòng)充其量只是使用暗網(wǎng)上可用的現(xiàn)有腳本，或簡(jiǎn)單地在GitHub平臺(tái)上發(fā)起入門(mén)級(jí)攻擊（例如不發(fā)明任何東西，只是隨機(jī)性地使用其他人開(kāi)發(fā)的程序，實(shí)現(xiàn)對(duì)KaliLinux操作系統(tǒng)的冒犯性使用）。在ChatGPT出現(xiàn)后，這些入門(mén)級(jí)網(wǎng)絡(luò)犯罪分子立刻可以獲得新的能力，從過(guò)去的只能簡(jiǎn)單地利用指令中立刻跳升到編寫(xiě)針對(duì)性代碼的新級(jí)別，這極大地激勵(lì)了眾多入門(mén)級(jí)黑客使用ChatGPT發(fā)起自己的攻擊。（4）按需偽造釣魚(yú)電子郵件由于可以通過(guò)將問(wèn)題定向到源代碼生成，因此可以要求ChatGPT編寫(xiě)網(wǎng)絡(luò)釣魚(yú)電子郵件的文本（例如交付、人力資源或付款提醒等），ChatGPT可以非常方便且高效地完成對(duì)應(yīng)的上下文，ChatGPT生成的文本即使是專(zhuān)家也看不出來(lái)，這可以說(shuō)為犯罪分子提供了按需偽造文本的利器，由于偽造出來(lái)的文本完全可以以假亂真，人工都難以識(shí)別，因此機(jī)器更無(wú)法過(guò)濾，可以大大提高攻擊的有效性。根據(jù)HPWolfSecurity的研究，網(wǎng)絡(luò)釣魚(yú)占惡意軟件攻擊的近90%，業(yè)界專(zhuān)家估計(jì)ChatGPT必將會(huì)使情況變得更糟。因?yàn)檫^(guò)去魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)使用社會(huì)工程來(lái)創(chuàng)建具有更高收益的高度針對(duì)性和定制的誘餌，但是魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)需要大量的手動(dòng)工作，因此過(guò)去規(guī)模很小，隨著利用ChatGPT來(lái)產(chǎn)生誘餌，攻擊者立刻可以解決大量和針對(duì)性?xún)扇矫娴膯?wèn)題。更要命的是基于ChatGPT的這類(lèi)攻擊可以輕松繞過(guò)電子郵件保護(hù)掃描程序，因?yàn)樗鼈儾话魏螑阂飧郊＃?）快速篩選和鎖定目標(biāo)ChatGPT可以被用來(lái)作為高效通過(guò)友好聊天收集信息的一種工具，因?yàn)橛脩?hù)根本不會(huì)知道他們正在與AI交互。利用一個(gè)毫無(wú)戒心的人可能會(huì)在一長(zhǎng)串的交談中泄露出來(lái)的看似無(wú)害的信息，這些信息結(jié)合起來(lái)可能有助于確定他們的身份、工作和社會(huì)生活關(guān)系；通過(guò)ChatGPT向企業(yè)員工發(fā)送問(wèn)題，員工可能會(huì)在不知不覺(jué)中分享有關(guān)組織正在做什么、如何處理網(wǎng)絡(luò)事件、組織當(dāng)前正在處理什么網(wǎng)絡(luò)事件…等。此外，有關(guān)技術(shù)問(wèn)題的溝通可能揭示組織感興趣的業(yè)務(wù)發(fā)展方向…結(jié)合其他人工智能模型，這足以告知黑客或黑客群體誰(shuí)或者那個(gè)組織可能是一個(gè)很好的潛在目標(biāo)以及如何利用他們。（6）模擬網(wǎng)絡(luò)防御/攻擊以發(fā)展網(wǎng)絡(luò)攻擊技術(shù)據(jù)報(bào)道，攻擊者正在使用ChatGPT來(lái)模擬網(wǎng)絡(luò)防御來(lái)發(fā)展他們的網(wǎng)絡(luò)攻擊技術(shù)，以找出目標(biāo)系統(tǒng)的漏洞。同時(shí)，他們通過(guò)模擬攻擊來(lái)評(píng)估其攻擊的有效性。他們通過(guò)利用ChatGPT對(duì)不同的惡意軟件技術(shù)進(jìn)行研究，甚至利用它創(chuàng)建對(duì)目標(biāo)最有效的惡意軟件。（7）社會(huì)工程攻擊ChatGPT的誕生和發(fā)展，給甚至不精通各種語(yǔ)言的攻擊者借助生成的文本進(jìn)行社會(huì)工程攻擊提供了極大的方便。攻擊者利用ChatGPT，在醫(yī)學(xué)研究、國(guó)防和網(wǎng)絡(luò)安全等關(guān)鍵領(lǐng)域傳播誤導(dǎo)性信息/錯(cuò)誤信息。過(guò)去為了捕獲人工智能生成的錯(cuò)誤信息，專(zhuān)家們使用人工智能驅(qū)動(dòng)的模型轉(zhuǎn)換器，通過(guò)對(duì)大量資源進(jìn)行檢查來(lái)快速識(shí)別錯(cuò)誤信息。然而，ChatGPT也使用模型轉(zhuǎn)換器，可以輕松生成繞過(guò)網(wǎng)絡(luò)安全專(zhuān)家的系統(tǒng)的識(shí)別。此外，通過(guò)利用ChatGPT向用于自動(dòng)網(wǎng)絡(luò)安全響應(yīng)的威脅情報(bào)提供誤導(dǎo)性信息，可以降低網(wǎng)絡(luò)安全的有效性，這可能使專(zhuān)家都無(wú)法關(guān)注到需要解決的實(shí)際漏洞。2、ChatGPT帶來(lái)的網(wǎng)絡(luò)安全防御新機(jī)遇ChatGPT在網(wǎng)絡(luò)安全方面給我們帶來(lái)新的風(fēng)險(xiǎn)的同時(shí)也為網(wǎng)絡(luò)安全防御帶來(lái)了新氣象，它也可以是一個(gè)強(qiáng)大的網(wǎng)絡(luò)安全工具，具體體現(xiàn)為：（1）提升防御的自動(dòng)化水平并減少人為錯(cuò)誤ChatGPT作為人工智能的典型代表，它對(duì)實(shí)現(xiàn)自動(dòng)化防御措施提供了有力支撐。目前，安全編排、自動(dòng)化和響應(yīng)（SOAR）工具在網(wǎng)絡(luò)安全策略中越來(lái)越受歡迎。由于SOAR具有減少應(yīng)對(duì)安全威脅所需的人為干預(yù)能力，利用ChatGPT這樣的AI來(lái)協(xié)助網(wǎng)絡(luò)安全策略的部署和動(dòng)態(tài)調(diào)整，可以大大減輕安全專(zhuān)家的工作量和工作強(qiáng)度，從而可騰更多的時(shí)間來(lái)聚焦處理AI無(wú)法處理的創(chuàng)造性工作。ChatGPT可以降低人為錯(cuò)誤的可能性。任何網(wǎng)絡(luò)安全系統(tǒng)的關(guān)鍵弱點(diǎn)之一是人為因素，無(wú)論您的計(jì)劃有多好，無(wú)論您的技術(shù)多么有效，只需要一兩個(gè)人犯了一個(gè)錯(cuò)誤，網(wǎng)絡(luò)就會(huì)無(wú)法抵御勒索軟件和其他網(wǎng)絡(luò)安全威脅。通過(guò)盡可能多地利用ChatGPT來(lái)自動(dòng)化生成解決方案，網(wǎng)絡(luò)安全公司有望減少人為錯(cuò)誤導(dǎo)致網(wǎng)絡(luò)災(zāi)難的可能性。（2）ChatGPT是信息安全人員的好助手ChatGPT可以通過(guò)進(jìn)行研究、撰寫(xiě)報(bào)告、創(chuàng)建處理各種事件的腳本和檢查數(shù)據(jù)來(lái)幫助首席信息安全官。安全官員可以使用ChatGPT的綜合分析結(jié)果來(lái)增加對(duì)安全問(wèn)題的了解，進(jìn)一步還可以借助ChatGPT的能力來(lái)尋找到應(yīng)對(duì)網(wǎng)絡(luò)風(fēng)險(xiǎn)的最佳方法。此外，它還是安全研究人員的很好的信息安全伴侶，因?yàn)樗梢院芎玫赝瓿稍S多任務(wù)，同時(shí)與人們十分自然地交互。未來(lái)，它可以與安全管理團(tuán)隊(duì)深度配合，特別是那些處理腳本、惡意軟件分析和取證的團(tuán)隊(duì)。（3）ChatGPT可大大提高安全團(tuán)隊(duì)的效率ChatGPT能幫助IT和安全團(tuán)隊(duì)變得更加高效，實(shí)現(xiàn)自動(dòng)和/或半自動(dòng)漏洞檢測(cè)和修復(fù)以及基于優(yōu)先級(jí)的風(fēng)險(xiǎn)評(píng)估等工作。過(guò)去，可以分析數(shù)據(jù)安全的人工智能對(duì)于面臨資源有限的IT和安全團(tuán)隊(duì)來(lái)說(shuō)非常稀缺，局限點(diǎn)在于需要海量數(shù)據(jù)的訓(xùn)練它才能理解特定環(huán)境中的什么是“正?！鼻闆r什么是“異?！鼻闆r，因此實(shí)施起來(lái)極其復(fù)雜。但是ChatGPT的誕生，大大簡(jiǎn)化這樣的過(guò)程，它的超強(qiáng)“理解力”給安全團(tuán)隊(duì)帶來(lái)了極大的方便，使得自動(dòng)或半自動(dòng)漏洞檢測(cè)與修復(fù)不僅可行且高效起來(lái)。（4）編寫(xiě)事務(wù)性的處理代碼可以利用ChatGPT編寫(xiě)代碼，特別是事務(wù)性處理程序代碼。安全運(yùn)維分析師常見(jiàn)的任務(wù)是處理特定的日志文件、針對(duì)某些模式的grep并將其導(dǎo)出，以獲得對(duì)事件或問(wèn)題的有意義的見(jiàn)解。通常分析師需要知道并熟悉一種腳本語(yǔ)言（如Python），ChatGPT可以以多種語(yǔ)言為他們編寫(xiě)這些腳本，可以管理各種格式（LEAF、CEF、Syslog、JSON、XML等），甚至可以做得更好。四結(jié)語(yǔ)網(wǎng)絡(luò)防御者和攻擊者之間一直在進(jìn)行一場(chǎng)永無(wú)止境的戰(zhàn)斗，一旦安全商開(kāi)發(fā)出緩解最新威脅的方法，攻擊者就會(huì)忙于尋找解決方法或新的威脅來(lái)取代它。