“新基建”下人工智能面臨的安全態(tài)勢與對策

一、“新基建”中的安全挑戰(zhàn)1.“新算力”挑戰(zhàn)：人工智能安全在“新基建”的發(fā)展進程中，一方面，人工智能、異構計算處理器等先進計算機軟硬件技術將極大提升算法效率和計算能力；另一方面，5G、云計算等新型信息基礎設施的建設使高算力變得人人可及，對網絡空間安全提出了新的挑戰(zhàn)。首先，人工智能的關鍵任務對安全防護的及時性提出了更高要求。從銀行業(yè)務到自動駕駛，從家庭自動化到機器人輔助手術，這些應用通常都具有高動態(tài)、強實時等特征，要求系統(tǒng)快速適應新環(huán)境并學習新技能。例如，汽車自動駕駛技術通過實時學習其他成功駕駛案例，可以快速適應意外和危險的道路條件。同時，此類關鍵任務型的人工智能系統(tǒng)也必須具備快速檢測入侵事件、識別攻擊模式并采取抵御措施的實時防護能力，從而處理噪聲輸入、抵御惡意攻擊。其次，人工智能的個性化服務需求對敏感信息保護提出了更高要求。人工智能應用的場景越來越廣泛，根據用戶行為的特征（例如，適用于用戶口音的虛擬助理）和用戶偏好（例如，學習用戶駕駛習慣的自動駕駛系統(tǒng)）提供定制化的智能決策服務已成為人工智能應用的主要方向之一。然而，在為用戶提供更精準服務的同時，系統(tǒng)需要收集大量的用戶個人信息（包括個人敏感信息）。盡管歐盟已發(fā)布GDRP，但目前關于隱私保護的政策法規(guī)和技術手段尚不完善，使得保護用戶個人隱私信息和利用這些數據獲取巨大商業(yè)利益之間的矛盾日益突出。再次，人工智能跨組織融合對數據安全共享提出了更高要求。在“新基建”趨勢下，各類系統(tǒng)和業(yè)務的融合速度加快，跨組織、跨地域的數據共享需求越來越高。例如，醫(yī)院共享數據以預防流行病爆發(fā)，金融機構共享數據以提高其欺詐檢測能力擴散等。這些智能應用有時需要使用不同機構（甚至是有競爭關系的實體）擁有的數據進行聯合訓練，一方面可能造成數據所有者敏感信息（如商業(yè)秘密等）泄露，另一方面也為惡意攻擊提供了更高價值的攻擊目標和更多源的攻擊渠道。最后，基于機器學習的安全算法與軟件漏洞問題日益突出。近年來，越來越多的網絡安全解決方案正在應用機器學習方法來提高安全效率和能力。然而，機器學習系統(tǒng)引入了特定的漏洞，熟練的攻擊者可以利用這些漏洞來危害整個系統(tǒng)。因此，基于機器學習的算法和軟件本身可能成為安全鏈中最薄弱的環(huán)節(jié)。此外，在開放互聯的數字世界中，學習系統(tǒng)經常被部署在對抗性的環(huán)境中處理“未知”的未知信息。由于建模攻擊通常依賴于“已知”的未知信息，而“未知”的未知信息是不可預測的，這使得對機器學習系統(tǒng)的大量潛在攻擊也成為不可預測的。2.“新網絡”挑戰(zhàn)：5G生態(tài)安全5G網絡變革將帶來技術和產業(yè)的顛覆式發(fā)展，是數字經濟的全面實踐和完整體現。雖然在網絡安全方面5G技術進一步加強了認證授權、隱私保護、網絡架構與互通安全等保障力度，但實際應用中的5G生態(tài)極為復雜，傳統(tǒng)的在遠端集中部署的安全保護模式已經不能滿足5G時代行業(yè)數字化、業(yè)務邊緣化的安全防護需求。首先，5G的“萬物互聯”模式打通了物理世界和數字世界，數字資產的價值和意義日益突出。隨著工業(yè)互聯網、車聯網等發(fā)展，社會場景數字化、人工智能算法化、工業(yè)數據模型化、工業(yè)知識軟件化等趨勢越來越明顯，使得數字資產的范圍不斷擴大，其價值已逐步接近物理世界資產，未來甚至會超越物理世界資產。目前，由于數字資產的內涵和邊界尚不清晰，使得建立以數字資產保護為核心的數據保護體系面臨巨大挑戰(zhàn)。其次，5G網絡提供網絡切片機制來服務于不同的應用業(yè)務，靈活的整體端到端切片管理編排和資源管理，使得網絡邊界變得十分模糊，對傳統(tǒng)依賴物理網絡邊界保護網絡空間安全的方法帶來極大挑戰(zhàn)。原則上，每個網絡切片是一個相對獨立的網絡域，配置各自不同的安全機制。但如果切片間出現信息泄露，攻擊者就可能從一個低安全等級的切片進入另一個高安全等級切片，竊取、干擾目標切片通信內容。此外，由于是在同一物理網絡上共存多個切片，因此很容易受到側信道攻擊等。最后，5G利用邊緣計算模式將業(yè)務決策能力下沉到終端，從而提升用戶體驗。但由于邊緣節(jié)點所處的用戶側環(huán)境復雜，容易受到非授權訪問、惡意數據篡改等攻擊，一旦用戶側5G業(yè)務被攻擊，如果沒有配套的安全監(jiān)測手段，很容易對整個安全生產和基礎設施產生巨大影響。另外，由于5G網絡支持多樣化終端，使其面臨著終端軟件和硬件設計漏洞導致的安全風險。3.“新模式”挑戰(zhàn)：新型融合創(chuàng)新應用安全隨著我國城市化進程的快速推進，“新基建”將新型交通網絡（尤其是軌道交通）和新型能源網絡建設作為傳統(tǒng)基礎設施升級的典型示范領域，進而帶動國民經濟各行業(yè)的生產基礎設施向網絡化、數字化、智能化轉型，有效推動各行業(yè)在技術、產業(yè)和商業(yè)模式的融合創(chuàng)新。隨著這些基礎設施智能化和自動化程度的提高，其面臨的安全問題日益突出。以近年來發(fā)展迅猛的軌道交通為例，我國即將進入以全自動駕駛、智能調度、智能維修、多模態(tài)生物信息識別等新技術為代表的智能運營時代。然而，針對軌道交通系統(tǒng)的信息安全防護還集中在對傳統(tǒng)網絡和信息系統(tǒng)的各類主機及關鍵節(jié)點的資產管理、威脅預警和應急響應等，無法滿足未來智能交通系統(tǒng)的安全保障需求。首先，交通關鍵信息基礎設施安全防護體系尚不完善。隨著交通系統(tǒng)的自動化和智能化程度越來越高，其關鍵信息基礎設施（如軌道交通中列車運行控制系統(tǒng)、調度指揮系統(tǒng)、運輸調度管理信息系統(tǒng)、客票發(fā)售與預訂系統(tǒng)等）之間的耦合關系愈發(fā)緊密。而針對這類緊耦合復雜系統(tǒng)的安全防護體系目前還處于理論自洽階段，還遠不能滿足以調度控制一體化、軌道交通公交化、旅客出行個性化等為代表的實際運營需求。其次，交通外場設備成為網絡安全保障盲點。我國交通網絡規(guī)模急速增長，各類交通外場設施、載運工具和移動終端等數量大幅度增長且分布極為廣泛。而針對交通外場設施的安全保障方法受限于接口種類、通信協(xié)議等尚沒有實現統(tǒng)一管理，無法實時了解各類交通外場設施的運行狀態(tài)和正在面臨的網絡安全威脅等內容，更不能對這些設施實現遠程防護和應急響應等功能，遠未達到智能化安全管理的應用需求。最后，交通網絡未知威脅感知能力尚顯不足。針對交通運輸網絡中特有的交調設備、氣象設備、監(jiān)控設備、邊坡設備等，業(yè)內尚缺乏對攻擊特征的積累，一旦遭受攻擊就可能是毫無防御能力的未知攻擊。另外，以高級持續(xù)攻擊(APT)攻擊為代表的網絡攻擊往往采用多種綜合的攻擊手法，能夠繞開傳統(tǒng)基于規(guī)則的安全產品的檢測，使得傳統(tǒng)的基于脆弱性、反應性、邊界性的周界安全模型很難應對全球化、規(guī)?；?、快速演變的網絡攻擊。這些都極大限制了軌道交通系統(tǒng)應對突發(fā)網絡安全事件的應急響應技術能力。二、“新基建”給安全帶來的新機遇1.人工智能為安全防護賦能人工智能技術為網絡空間安全防護智能化提供了新的發(fā)展機遇，可以為網絡空間安全防護在預測、檢測、防御和響應等各環(huán)節(jié)全面提升安全性能提供技術支撐。在網絡攻擊預測方面，人工智能系統(tǒng)可以利用機器學習預判網絡攻擊，并結合專家系統(tǒng)給出智能決策，以抵御攻擊并且評估風險；在安全檢測方面，可以實時監(jiān)控網絡系統(tǒng)，無需人工監(jiān)視，感知網絡安全態(tài)勢；在網絡防御方面，可以利用已有的攻擊樣本判斷攻擊類型，實現安全防御自動化；在攻擊響應方面，可以實現安全響應自動化，并允許人工干預，快速形成攻擊案件分析，為專家系統(tǒng)的決策支持提供基礎數據。2.區(qū)塊鏈的基礎作用區(qū)塊鏈作為一種基于密碼學原理、共識機制和數據存儲結構等關鍵機制的分布式數據庫技術，使傳統(tǒng)上難以流通和商品化的“注意力”與“信用度”成為可以批量化生產的流通商品，革命性地擴展了經濟活動的范圍與提高效率的途徑。2020年4月20日，國家發(fā)改委首次明確新型基礎設施的范圍，基于區(qū)塊鏈的新技術基礎設施是其中重要組成部分。區(qū)塊鏈的兩個核心性質“去中心化”和“不可篡改”，保證了區(qū)塊鏈的高度透明化和可追溯性，在高度開放的動態(tài)計算環(huán)境中創(chuàng)造了可信任基礎，有助于在“新基建”中建設數字社會可信體系。另外，通過將區(qū)塊鏈技術與人工智能、物聯網和5G等新興信息技術進行深度融合，可以自底向上地與互聯網基礎架構融合，實現可信、可靠、可用、高效的集成化應用，從而促進數據共享、優(yōu)化業(yè)務流程、提升協(xié)同效率、降低運營成本。三、“新基建”下的安全新范式“新基建”將極大促進物理世界、人工世界和心理世界的融合進程，為社會物理信息系統(tǒng)（Cyber-Physical-SocialSystems,CPSS）的構建提供重要支撐?！靶禄ā睍r代的網絡空間安全內涵也需要不斷發(fā)展和進化，安全防護理念、技術思想、產業(yè)思維和人才培養(yǎng)等都需要全面升級。其核心就是要求安全防護體系從傳統(tǒng)“打補丁”式的被動檢測防護向“增強免疫力”為目標的預測引導防護演進。1.建立并完善“共識性”網絡空間安全標準體系目前，我國已經在大數據、人工智能、云計算等領域建立了較完善的技術體系和較深厚產業(yè)積累，在5G、智能交通、新能源等方面甚至取得了先發(fā)技術和產業(yè)優(yōu)勢，這使得在“新基建”發(fā)展過程中，同步建立新型網絡安全標準體系的技術條件和時機日漸成熟，從而促進網絡空間安全領域從安全觀和安全策略等方面實現進一步升級。在安全觀方面，傳統(tǒng)的安全觀主要強調物理系統(tǒng)（如工業(yè)設備）或者網絡空間（如互聯網）的單一世界安全，而在安全邊界延展過程中，基于波普爾的“三個世界”理論將成為新安全觀演化的基礎，即未來的安全應該是能夠同時保障物理世界、心理世界和人工世界均安全的“大安全”。整體的、動態(tài)的、開放的、相對的和共同的安全觀已經成為網絡信息安全領域的普遍共識。在安全策略方面，傳統(tǒng)的安全策略還停留在描述性安全為主、預測性安全為輔的“打補丁”式被動檢測防護模式，這種“兵來將擋水來土掩”的安全策略在面對系統(tǒng)復雜性不斷提升而帶來的安全威脅時顯得力不從心。因此，需要將攻防雙方的心理和社會因素納入到安全策略的建設體系中，利用生成式對抗模型產生的安全大數據填補認知鴻溝，建立以引導安全為主、預測性安全和描述性安全為輔的主動式安全防護體系，不斷增強系統(tǒng)的免疫力。此外，隨著我國“一帶一路”“高鐵走出去”等的推進，在更大范圍內建立并完善具有共識性的網絡空間安全標準體系，可以有效延展網絡空間安全邊界，為建立網絡空間縱深防御體系提供基礎支撐。2.建立以ACP理論為基礎的平行安全智能系統(tǒng)通過深入分析CPSS系統(tǒng)的安全特征，融合人工智能、區(qū)塊鏈等新技術和心理學、社會學等人因要素，建立以平行智能理論為基礎，集描述性安全、預測性安全和引導性安全為一體的平行安全理論與技術體系，就成為“新基建”時代保護各類CPSS系統(tǒng)的一種有效解決方案。其核心思想是利用人工系統(tǒng)來模擬和表示復雜的實際安全系統(tǒng)，通過計算實驗進行各種安全模型的訓練分析和評估，借助虛實互動的平行執(zhí)行來在線優(yōu)化安全模型，形成虛實空間的反饋與閉環(huán)，從而提升對復雜系統(tǒng)的智能安全防護與免疫能力。平行安全系統(tǒng)的基本框架如圖1所示。首先，通過綜合考慮CPSS系統(tǒng)中的各種復雜因素，結合理論建模、經驗建模和數據建模方法，建立與實際安全系統(tǒng)“伴生”的一個或多個人工安全系統(tǒng)。其次，在人工安全系統(tǒng)中，利用生成式對抗學習等智能方法與人工參與相結合的方式對系統(tǒng)攻防雙方特征與行為進行精確建模，以自底向上的涌現方式實施海量計算實驗，并在實驗過程中模擬、記錄系統(tǒng)實時狀態(tài)及演化特性，輔助推理和預測實際安全系統(tǒng)各核心要素在不同情況下的耦合關系與演化規(guī)律。最終，通過特定的平行交互機制與協(xié)議將人工安全系統(tǒng)和實際安全系統(tǒng)連接，實時同步數據、模型、場景和決策等要素，并通過人工系統(tǒng)中場景推演，實現對系統(tǒng)未來狀態(tài)的預測，并相應地調節(jié)各自的管理與控制方式。3.培養(yǎng)網絡空間安全優(yōu)秀人才現階段我國網絡空間安全人才培養(yǎng)遠遠不能滿足網絡大國向網絡強國轉變的需求。因此，網絡空間安全優(yōu)秀人才的培養(yǎng)已成為當務之急。首先，打造“國家政策護航、高校教育為主，產業(yè)實踐支撐”的人才培養(yǎng)新格局。從國家層面提高網絡空間安全的政治站位，從保障國家安全的戰(zhàn)略高度，支持網絡空間安全人才的培養(yǎng)；從高校、科研機構層面，加強理論知識和實際應用的結合，提升網絡空間安全人才的整體水平；從產業(yè)應用方面，加強與科研院校的實踐合作，交換信息，分享經驗，從而共同建設一支國際