用主動免疫可信計算筑牢人工智能安全防線

用主動免疫可信計算筑牢人工智能安全防線沈昌祥中央網(wǎng)信辦專家咨詢委員會顧問國家集成電路產(chǎn)業(yè)發(fā)展咨詢委員會委員國家三網(wǎng)融合專家組成員黨的二十大報告提出加快建設網(wǎng)絡強國戰(zhàn)略任務“沒有網(wǎng)絡安全就沒有國家安全安全是發(fā)展的前提”國家網(wǎng)絡空間安全網(wǎng)絡安全等級保護制度2.0標國家網(wǎng)絡空間安全網(wǎng)絡安全等級保護制度2.0標準及關(guān)鍵信息基礎設施安全保護條例要求應當優(yōu)先采購全面使用安全可信的產(chǎn)品和服務來構(gòu)建關(guān)鍵信息基礎設施安全保障體系。第十六條國務院和省、自治區(qū)、直轄市人民政府應當統(tǒng)籌規(guī)劃,加大投入,扶持重點網(wǎng)絡安全技術(shù)產(chǎn)業(yè)和項目,支持網(wǎng)絡安全技術(shù)的研究開發(fā)和應用,推廣安全可信的網(wǎng)絡產(chǎn)品和服務,保護網(wǎng)絡技術(shù)知識產(chǎn)權(quán),支持企業(yè)、研究機構(gòu)和高等學校等參與國家網(wǎng)絡安全技術(shù)創(chuàng)新項目。堅持創(chuàng)新驅(qū)動發(fā)展,積極創(chuàng)造有利于技術(shù)創(chuàng)新的政策環(huán)境,統(tǒng)籌資源和力量,以企業(yè)為主體,產(chǎn)學研用相結(jié)合,協(xié)同攻關(guān)、以點帶面、整體推進,盡快在核心技術(shù)上取得突破。重視軟件安全,加快安全可信產(chǎn)品推廣應用。構(gòu)筑安全可信人工智能新生態(tài)體系1人工智能在賦能人類社會加快發(fā)展的同時，正逐漸衍生出可危及國家安全和人類安全的今年4月26日，美國國土安全部宣布成立一個人工智能安全與保障委員會，由國土安全部部長亞歷杭德羅·馬約?斯擔任主席。人工智能在賦能人類社會加快發(fā)展的同時，正逐漸衍生出可危及國家安全和人類安全的重大風險:多位著名科學家警告，人工智能發(fā)展將毀滅人類社會。去年，馬斯克在內(nèi)的一眾全球范圍內(nèi)AI領(lǐng)域重要人士表示“應將ChatGPT自身無安全可信和倫理道德，一名比利時男子在與ChatGPT交流后自殺身亡。曾經(jīng)馬斯克為首的眾位科學家向美國政府發(fā)出請愿信，要求停止ChatGPT訓練，與此同時發(fā)展將毀滅人類社會。去年，馬斯克在內(nèi)的一眾全球范圍內(nèi)AI領(lǐng)域重要人士表示“應將緩解人工智能導致的滅絕風險，與其它社會規(guī)模風險(如大流行病和核戰(zhàn)爭)等同重視，作為全球優(yōu)先事項”。垂類大模型是大模型私有化指的是將預訓練的大型人工智能模型(如GPT、BERT等)部署到企業(yè)自己的硬件環(huán)境或私有云平臺上。私有化部署能夠給企業(yè)帶來數(shù)據(jù)安全性和自主控制能力規(guī)模風險(如大流行病和核戰(zhàn)爭)等同重視，作為全球優(yōu)先事項”。人工智能的潛在風險智能硬件被惡意用于恐怖襲擊智能化武器與軍備競賽引發(fā)國際擔憂智能硬件被惡意用于恐怖襲擊智能化武器與軍備競賽引發(fā)國際擔憂模型失誤會給人類帶來災難機器人智能行為體一旦失控將危及人類安全智能工具被用于干預輿論和引導政治走向模型失誤會給人類帶來災難機器人智能行為體一旦失控將危及人類安全智能工具被用于干預輿論和引導政治走向網(wǎng)絡空間面臨嚴重威脅2017年5月12日爆封的“WannaCry”的勒索病毒，通過將系統(tǒng)務數(shù)據(jù)信息加密，使數(shù)據(jù)變得不可用，借機勒索錢財。病毒席卷近150個國家和地區(qū)，教育、1交通、醫(yī)療、能源網(wǎng)絡成為本輪攻擊的重災區(qū)。22018年8月3日，臺積電遭到勒索病毒入侵，幾個小時之內(nèi)，臺積電在務國臺灣地區(qū)的北、務、南三個重要生產(chǎn)基地全部停擺，造成約十幾億美元的營業(yè)損失。2021年5月7日，美國最大的成品油管道運營商ColonialPipeline受到勒索軟件攻擊，被迫關(guān)閉其美國東部沿海各州供油網(wǎng)絡，美國政府宣布美國17個州和華3盛頓特區(qū)進入緊急狀態(tài)。認清網(wǎng)絡安全實質(zhì) 絡脆弱度↓空間絡脆弱度↓空間基礎設施網(wǎng)絡:基礎設施網(wǎng)絡戰(zhàn)T謀侵網(wǎng)絡戰(zhàn)T謀侵攻擊源:設計IT系統(tǒng)不能窮盡所有邏輯，利用邏輯缺陷挖掘漏洞，進行攻擊的風險始終存在，傳統(tǒng)“封堵查殺”難以應對降低脆弱性，用安全可信產(chǎn)品和服務，在計算同時并行進行動態(tài)的全方位整體防護，使得完成計算任務的邏輯組合不被篡改和破壞，達到預期的計算目標。相當于人體具有免疫力確保健康。按國家網(wǎng)絡安全法律、戰(zhàn)略及等級保護制度設計IT系統(tǒng)不能窮盡所有邏輯，利用邏輯缺陷挖掘漏洞，進行攻擊的風險始終存在，傳統(tǒng)“封堵查殺”難以應對降低脆弱性，用安全可信產(chǎn)品和服務，在計算同時并行進行動態(tài)的全方位整體防護，使得完成計算任務的邏輯組合不被篡改和破壞，達到預期的計算目標。相當于人體具有免疫力確保健康。按國家網(wǎng)絡安全法律、戰(zhàn)略及等級保護制度要求用安全可信網(wǎng)絡產(chǎn)品和服務構(gòu)建主動免疫防護保障體系。永遠命題安全可信攻擊行為賴不掉系統(tǒng)和信息改不了攻擊行為賴不掉系統(tǒng)和信息改不了系統(tǒng)工作癱不成攻擊者進不去竊取保密信息看不懂系統(tǒng)工作癱不成攻擊者進不去“WannaCry”、“Mirai”、“構(gòu)建主動免疫人工智能安全產(chǎn)業(yè)空間構(gòu)建主動免疫人工智能安全產(chǎn)業(yè)空間2開創(chuàng)可信計算3.0時代公鑰密碼身份識別、對稱密碼加密存儲智能控制與安全執(zhí)行雙重體系結(jié)構(gòu)環(huán)境免疫抗病毒原理數(shù)字定義可信策略對用戶透明中國可信計算源于1992年立項研制免疫的綜合安全防護系統(tǒng)(智能安全卡)公鑰密碼身份識別、對稱密碼加密存儲智能控制與安全執(zhí)行雙重體系結(jié)構(gòu)環(huán)境免疫抗病毒原理數(shù)字定義可信策略對用戶透明中國可信計算源于1992年立項研制免疫的綜合安全防護系統(tǒng)(智能安全卡),于1995年2月底通過測評和鑒定。經(jīng)過長期軍民融合攻關(guān)應用,形成了自主創(chuàng)新安全可信體系,開啟了可信計算3.0時代。可信可用方能安全交互主動免疫方能有效防護自主創(chuàng)新方能安全可控新華社《中國名牌》可信計算:網(wǎng)絡安全的主動防御時代世界可信計算演進節(jié)點安全性功能模塊被動度量主機可靠性節(jié)點安全性功能模塊被動度量主機可靠性計算機部件冗余備份故障診查容錯算法公鑰、對稱雙密碼主動系統(tǒng)免疫終端、服務器、存儲系統(tǒng)體系可信基于網(wǎng)絡可信服務驗證動態(tài)度量實時感知世界容錯組織為代表TCG為代表完備的可信計算3.0產(chǎn)品鏈，將形成巨大完備的可信計算3.0產(chǎn)品鏈，將形成巨大的新型產(chǎn)業(yè)空間嵌入式可信芯片及可信根具備可信計算3.0技術(shù)的設備計算3.0攻關(guān)示范基地具備可信計算功嵌入式可信芯片及可信根具備可信計算3.0技術(shù)的設備計算3.0攻關(guān)示范基地具備可信計算功能的國產(chǎn)CPU等保2.0新標準把云計算、移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)和工控等采用可信計算3.0作為核心要求，筑牢智能網(wǎng)絡安全防線所有計算節(jié)點都應基于可信根實現(xiàn)開機到操作系統(tǒng)啟動的可信驗證。所有計算節(jié)點都應基于可信根實現(xiàn)開機到操作系統(tǒng)啟動,再到應用程序啟動的可信驗證。并將驗證結(jié)果形成審計記錄。所有計算節(jié)點都應基于可信根實現(xiàn)開機到操作系統(tǒng)啟動,再到應用程序啟動的可信驗證,并在應用程序的關(guān)鍵執(zhí)行環(huán)節(jié)對其執(zhí)行環(huán)境進行可信驗證,主動抵御入侵行為。并將驗證結(jié)果形成審計記錄,送到管理中心。所有計算節(jié)點都應基于可信計算技術(shù)實現(xiàn)開機到操作系統(tǒng)啟動,再到應用程序啟動的可信驗證,并在應用程序的所有執(zhí)行環(huán)節(jié)對其執(zhí)行環(huán)境進行可信驗證,主動抵御入侵行為。并將驗證結(jié)果形成審計記錄,送到管理中心,進行動態(tài)關(guān)聯(lián)感知,形成實時的態(tài)勢?？尚潘拗鱐PCM檢驗軟件可信軟件基(TSB)靜態(tài)可信驗證基礎軟件可信建鏈檢驗應用程序可信動態(tài)度量執(zhí)行環(huán)境實時感知關(guān)聯(lián)態(tài)勢引導OS,裝載系統(tǒng)應用加載應用執(zhí)行所有執(zhí)行安全可信人工智能人工智能大模型安全可信:計算處理服務資源安全可信:人工智能大模型安全可信:計算處理服務資源安全可信:計算能力(云)智能物聯(lián)網(wǎng)安全框架計算環(huán)境應用計算域計算環(huán)境智能物流智能電網(wǎng)智能家居環(huán)境控制智能交通感知計算域 傳感器節(jié)點拿智能物流智能電網(wǎng)智能家居環(huán)境控制智能交通感知計算域 傳感器節(jié)點拿傳感器智能醫(yī)療計算節(jié)點計算節(jié)點應用基礎設施接入網(wǎng)關(guān)接入網(wǎng)