人工智能術語研究階段性成果

人工智能術語研究階段性成果CISS人工智能與國際安全項目術語工作組一、武器（系統(tǒng)）武器泛指用于攻擊或保衛(wèi)自身的作戰(zhàn)器械與裝置，被用于直接殺傷敵人的有生力量、破壞敵方設施的器械、裝置，或在遭受進攻時進行防御的器械、裝置，可區(qū)分為攻擊性武器與防御性武器兩類。武器裝備：武器裝備是作戰(zhàn)人員用于執(zhí)行和保障作戰(zhàn)行動的武器、武器系統(tǒng)以及相關的其他軍事技術裝備的統(tǒng)稱，是進行戰(zhàn)爭的重要物質(zhì)基礎，是軍隊戰(zhàn)斗力生成的重要力量，是完成各種軍事行動的重要支撐。a軍械：軍械主要包括槍械、火炮、彈藥、戰(zhàn)術導彈、光學儀器（偵察器材，如望遠鏡、潛望鏡、炮隊鏡、高炮指揮鏡等、瞄準器材、測角器材、通用雷達、指揮儀、移動電站、防暴器材、冷兵器b等一系列用于軍事目的的武器與裝備。彈藥：完成其他戰(zhàn)術任務的物品。這包括炮彈、火炮炮彈、手榴彈、步槍榴彈、航空炸彈、火箭、導彈、魚雷、水雷、地雷等，以及用于狩獵和射擊運動等非軍事用途的禮炮和彈藥。cTheLiberationArmymilitaryChina,中國軍事百科全書編審委員會.書出版社.中國軍事百科全書編審委員會.書出版社.裝備：給軍隊配備的武器、軍裝、器材、技術力量等。武器系統(tǒng)：由若干功能上相互關聯(lián)的武器、技術裝備等有序組合，協(xié)同完成一定作戰(zhàn)任務的有機整體。e不可接受的致命性自主武器系統(tǒng)：根據(jù)《中國關于“致命性自（1）致命性：即具有足以致命的載荷和手段；（2）全自主性：即在執(zhí)行任務整個過程中均無人的介入和控制：（3）無法終止性：即啟動后沒有終止手段；（4）濫殺性：即不分條件、場合和對象，自動執(zhí)行殺傷任務；（5）進化性：即在與環(huán)境交互過程中，通過自主學習，實現(xiàn)功能擴展和能力進化，且超出人的預測。“可接受的”自主武器系統(tǒng)：具有較高的自主程度，但應始終處于人類控制之下，且可被安全、可信、可靠、可控地使用，人類可隨時中止其運行。在軍事行動中應能夠遵循區(qū)分、比例、預防等國際人道主義法基本原則。g非致命性武器非致命性武器是軍隊等強力部門在執(zhí)勤、處突、反恐等任務中廣中國軍事百科全書編審委員會.書出版社.https://www.term.or/CN/abstract/abstract11322.shtml/wp-content/uploads/2022/07/Working-Paper-of-the-Peoples-Republic-of-China-on-Lethal-Autonomous-Weapons-SystemsChinese.pdf中國關于致命性自主武器系統(tǒng)問題的工作文件，年7/wp-content/uploads/2022/07/Working-Paper-of-the-Peoples-Republic-of-China-on-Lethal-Autonomous-Weapons-SystemsChinese.pdf泛使用的武器，在不致命的前提下使目標快速失能并且失能后果具有最大概率的可逆性。非致命性武器提供了以最低限度的武力開展行動的能力，控制了暴力和防止不必要的附帶傷亡和破壞。h二、智能/自主平臺（系統(tǒng)）機器人自動執(zhí)行工作的機器裝置。既可以接受人類指揮，又可以運行預先編排的程序，也可以根據(jù)以人工智能技術制定的原則綱領行動。機器人的主要任務是協(xié)助或取代人類的工作，例如生產(chǎn)業(yè)、建筑業(yè)，或是危險的工作。i智能武器是指配備了人工智能（I、傳感器、自動化系統(tǒng)等使其具備一定程度自主決策、目標識別、跟蹤和攻擊能力，用于實施和保障戰(zhàn)斗行動的武器、武器系統(tǒng)和與之配套的其他軍事技術器材的統(tǒng)稱。這些武器能夠在復雜的戰(zhàn)場環(huán)境中不同程度地提高作戰(zhàn)效率和精度，并減少對人為操作的依賴。所謂智能是對人的能力延伸和發(fā)展，是人機交互環(huán)境中的一部分。人作為軍事活動和智能活動的主體，對自主化程度較高的智能武器系統(tǒng)應擁有必要的干預能力。j自主武器系統(tǒng)類及外部資源的依賴程度，提高對復雜動態(tài)環(huán)境的適應性和戰(zhàn)場生存h..5i（第三版年，第460頁。j結合過去20性，從而更好地完成人類賦予的任務。應根據(jù)不同場景、不同程度的自主能力，有針對性規(guī)范相關武器系統(tǒng)的使用。如果自主能力未用于殺傷鏈（例如用于情報搜集和偵察的無人機，即使一些武器系統(tǒng)自主程度很高，其所具有的自主性也不會引發(fā)人道主義關切。武器系統(tǒng)殺傷鏈包括觀察、判斷、決策、行動等多個關鍵環(huán)節(jié)，在某些環(huán)節(jié)具有自主功能的武器系統(tǒng)并不必然導致濫殺濫傷。因此，籠統(tǒng)地推出禁止或限制措施或?qū)p害各國正當國防能力，甚至損害各國和平利用相關技術的權利。各方應考慮將自主武器系統(tǒng)分為“不可接受的”和“可接受的”兩類，對“不可接受的”部分加以禁止，對“可接受的”部分加以規(guī)范，以確保有關武器系統(tǒng)安全、可靠、可控，遵循國際人道法及其他適用的國際法。——《中國關于“致命性自主武器系統(tǒng)”問題的工作文件》集群智能/群體智能人工智能集群 ：遵循統(tǒng)一控制的，人工智能計算功能單元的集合。注1：人工智能計算功能單元可包含人工智能加速處理器、人工智能服務器、人工智能加速模組等。注2：當由人工智能服務器組成時，人工智能集群可稱為人工智能服務器集群，其中的人工智能服務器可稱為節(jié)點。群體智能 ：群體智能（swarmintelligence,SI）也稱為集群智能（collectiveintelligenceCI）……對于一個由眾多簡單個體組成的群體，oftheofon（GB/T，20221012（2023年5月1，第120221-3若其個體具有能通過彼此間的簡單合作來完成一個整體任務的能力，則稱該群體具有“群體智能”……群體智能的核心是由眾多簡單個體組成的群體能夠通過相互之間的簡單合作來實現(xiàn)某一較復雜的功能，局信息和模型的前提下，為解決復雜的分布式問題提供了可能。無人系統(tǒng)無人系統(tǒng)系統(tǒng)，能夠在無需搭載人類操作員的情況下發(fā)揮其力量執(zhí)行指定任務的機電系統(tǒng)。無人（作戰(zhàn)）平臺無人作戰(zhàn)平臺是指在沒有搭載人類操作人員的情況下執(zhí)行作戰(zhàn)任務的一種武器系統(tǒng)。無人駕駛航空器：是指沒有機載駕駛員且自備動力系統(tǒng)的航空器。n遙控飛機：由遙控站操作的無人駕駛飛機。遙控飛機是無人駕駛飛機的一個子類。無人地面平臺（自動駕駛車輛、無人駕駛車輛）無人地面平臺是地面作戰(zhàn)的重要力量，能夠在沒有搭載人類操作員的情況下執(zhí)行各種任務。n國務院、中央軍委《無人駕駛航空器飛行管理暫行條例》31May2023,/zhengce/content/202306/content_6888799.htm.CivilUnmannedAircraftSystemsAirTraf?cManagementMeasures,https://jxj./zwgk/zcwj/bjszc/201911/t20191113_2674230.html無人水面平臺（無人水面艇）無人水面艦艇是一種具備自主航行能力、通過搭載任務載荷來執(zhí)行相關任務的水面艦艇。無人潛航器（遙控水下潛航器、自主/自治水下潛航器）無人水下航行器是一種無需搭載人類操作員，可以自動執(zhí)行任務的水下航行器。三、智能/自主技術人工智能人工智能是利用數(shù)字計算機或者數(shù)字計算機控制的機器模擬、延伸和擴展人的智能，感知環(huán)境、獲取知識并使用知識獲得最佳結果的理（2018人工智能已經(jīng)進入全面反映人類智能的第三代技術。第一代利用知識、算法和算力三個要素構造，第二代利用數(shù)據(jù)、算法與算力三個要素構造。為了發(fā)展安全、可信、可靠與可擴展的AI技術，要同時代人工智能》機器學習機器學習指通過計算技術優(yōu)化模型參數(shù)的過程，使模型的行為反映數(shù)據(jù)或經(jīng)驗。p作為一門學科，機器學習（MachineLearning）涉及統(tǒng)計學、系統(tǒng)辨識、逼近理論、神經(jīng)網(wǎng)絡、優(yōu)化理論、計算機科學、腦科學等諸多領域。機器學習研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學習p“Informationtechnology-Artificialintelligence-Terminology”(GB/T41867-2022)issuedonMay1,2023,ChineseElectronicsStandardizationInstitute,https://std./gb/search/gbDetailed?id=71F772D76866D3A7E05397BE0A0AB82A行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的性能，也是人工智能技術的核心?；跀?shù)據(jù)的機器學習是現(xiàn)代智能技術中的重要方法之一，研究從觀測數(shù)據(jù)（樣本）出發(fā)尋找規(guī)律，利用這些規(guī)律對未來數(shù)據(jù)或無法觀測的數(shù)據(jù)進行預測。深度學習深度學習：通過訓練具有許多隱層的神經(jīng)網(wǎng)絡來創(chuàng)建豐富層次表示的方法。注：深度學習是機器學習的一個子集?！秶覙藴剩麲B/T41867-2022》根據(jù)學習方法可以將機器學習分為傳統(tǒng)機器學習和深指層數(shù)超過3。深度學習作為機器學習研究中的一個新興領域，由n等人于6》神經(jīng)網(wǎng)絡神經(jīng)網(wǎng)絡：由加權鏈路且權值可調(diào)整連接的基本處理元素的網(wǎng)絡，通過把非線性函數(shù)作用到其輸入值上使每個單元產(chǎn)生一個值，并把它傳送給其他單元或把它表示成輸出值。注：雖然某些神經(jīng)網(wǎng)絡旨在模擬神經(jīng)系統(tǒng)中神經(jīng)元的功能，但大多數(shù)神經(jīng)網(wǎng)絡用于人工智能以實現(xiàn)連接模型?！秶覙藴剩麭/T5271.34-2006》中國電子技術標準化研究院ChineseElectronicsStandardizationInstitute.(2018).Whitepaperonarti?cialintelligencestandardization,人工智能標準化白皮書（2018版）,/201801/3545.html神經(jīng)網(wǎng)絡：由一層或多層神經(jīng)元組成的網(wǎng)絡，通過權值可調(diào)的加權連接，接收輸入數(shù)據(jù)并產(chǎn)生輸出。注1：神經(jīng)網(wǎng)絡是連接主義方法的一個突出例子。注2：雖然神經(jīng)網(wǎng)絡的設計最初是受生物神經(jīng)元功能的啟發(fā)，但大多數(shù)神經(jīng)網(wǎng)絡的研究不再遵循這種啟發(fā)?！秶覙藴剩麲B/T41867-2022》自主控制自主控制策能力、協(xié)同能力和行動能力有機的結合起來，在非結構化環(huán)境下根據(jù)一定的控制策略自我決策并持續(xù)執(zhí)行一系列控制功能完成預定目標的能力。自動控制r：置，使機器、設備或生產(chǎn)過程的某個工作狀態(tài)或參數(shù)自動地按照預定的規(guī)律運行。自主控制系統(tǒng)s：通過計算機、伺服執(zhí)行機構、傳感反饋機構、成的能實現(xiàn)自穩(wěn)定、自調(diào)節(jié)、自錄最優(yōu)、自適應等功能的系統(tǒng)。AIAI從I項目概念階段到部署和維護階段結束的整個過程。中國在《人工智能標準化白皮書（2021版》中引用國際標準化組織和國際電工組織第一聯(lián)合技術委員會人工智能分委會(IS/IECJTC1/SC42ISO/IEC22989《人工智能概念與術語》中提出了人工（第三版年，第451頁。（上年，第1041頁。智能系統(tǒng)生命周期模型定義：人工智能系統(tǒng)生命周期包括初始階段、設計與開發(fā)、驗證與確認、部署、運行與監(jiān)測、重新評估及退出階段。該生命周期模型源于系統(tǒng)和軟件工程系統(tǒng)生命周期，并在此基礎上強調(diào)了人工智能領域特性方面，包括開發(fā)運營、可追溯性、透明度及可解釋性、安全與隱私、風險管理、治理等。t四、行動與控制指揮鏈（commandrelationship況下，指揮鏈或指揮關系是指從作戰(zhàn)指揮高層延伸到基本作戰(zhàn)單元的這樣一條持續(xù)的職權線。根據(jù)等級、編制序列和任務的不同對指揮鏈上各級的指揮權限進行不同的職權劃分，通常從上級到下級形成指揮與被指揮關系。根據(jù)作戰(zhàn)需要或部隊編制調(diào)整，可能會進行指揮關系轉換，即改變原指揮關系，形成新指揮關系。指揮控制（系統(tǒng)）指揮控制系統(tǒng)是保障指揮員和指揮機關對部隊作戰(zhàn)人員、作戰(zhàn)行動、武器系統(tǒng)等實施指揮、控制、制約的系統(tǒng)。根據(jù)應用層級的不同，指揮控制系統(tǒng)可區(qū)分為戰(zhàn)略、戰(zhàn)役、戰(zhàn)術級指揮控制系統(tǒng)。t《人工智能標準化白皮書（2021版/202107/7796.html決策點中文語境中與決策點相近的概念是定下決心（decisionmakig，它指的是指揮員在接受上級任務、領會上級意圖后，結合對作戰(zhàn)態(tài)勢的判斷而作出的行動決定。有目的的人類控制這不是一個官方軍事術語，是學者在論文中提出的概念。我們的理解是，自主武器系統(tǒng)或致命性AI賦能武器系統(tǒng)在目標核查、鎖定目標、實施打擊前等關鍵任務點，由人類進行最后確認，而不是完全依靠傳感器、自主武器系統(tǒng)、或致命性AI五、人機關系人機交互人機交互是指人類用戶與軟硬件單元結合的計算機系統(tǒng)間進行信可信賴的人工智能發(fā)展人工智能應堅持“以人為本”理念，以增進人類共同福祉GB/T18976-2003/ISO134071999201932018（2023，20239步的方向發(fā)展。為此目的，不斷提升人工智能系統(tǒng)的透明性、穩(wěn)定性、可解釋性、可預測性、公平性和可靠性，提升數(shù)據(jù)真實性和準確性，確保人工智能技術可審核、可監(jiān)督、可追溯，確保人工智能始終處于人類控制之下。v透明性：結果等能夠被人類清晰地理解、解釋并信任，主要可體現(xiàn)為算法的透明性、數(shù)據(jù)的透明性、決策的透明性等，旨在實現(xiàn)人工智能技術可解釋、可預測、可追溯、可審查、可問責。透明性有助于所有利益攸關方清楚地了解人工智能系統(tǒng)的工作方式，但不得危害國家利益和人工智能系統(tǒng)利益攸關方的利益。w可解釋性：人工智能系統(tǒng)能夠以清晰、易懂和有意義的方式向人類揭示其推理、決策和預測過程，使人類能夠理解并信任其作出的行為或得出的結論?？山忉屝詡戎赜跒槿斯ぶ悄芟到y(tǒng)作出的決策提供可理解的原因，而不是嘗試為“實現(xiàn)必要的優(yōu)越特性”提供理由。x202310（202320239，20196，2022年11（20232023920196，20196GB/T41867-2022，202210229892022(enInformationtechnologyintelligenceArti?cialintelligenceconceptsandterminology；中國信息通信（征求意見稿20196，20217可追溯性：人工智能系統(tǒng)在整個生命周期中各個環(huán)節(jié)的決策數(shù)據(jù)集、處理過程和輸出結果能夠被記錄、追蹤和回溯，使人工智能系統(tǒng)的決策結果可被人類理解和追蹤。y可靠性：致地運行并獲得期望結果的能力，既要有一定程度抵抗惡意攻擊的能力，也要有遇到嚴重問題時的退回機制。z可預測性：人類能夠預見并理解人工智能系統(tǒng)在不同條件下會產(chǎn)生何種輸出和行為，使人類能夠?qū)τ跀M產(chǎn)生的輸出作出可靠的假設，這要求人工智能系統(tǒng)的輸出結果準確、可靠且可被重復，且能有效抵御漏洞和惡意攻擊。ヒ可控性：又稱為“人類控制”，是指人類的判斷應融入人工智能系統(tǒng)的研發(fā)、部署和使用流程，使人類能夠有效地指導、監(jiān)督、評估、干預、中止或終止人工智能系統(tǒng)的行為，確保人工智能系統(tǒng)符合倫理、法律和安全標準，同時建立問責機制