人工智能安全研究所國際網(wǎng)絡(luò)會議

人工智能安全研究所國際網(wǎng)絡(luò)會議前瞻（CISS）組織研究團(tuán)隊(duì)定期跟蹤最新國際研究動(dòng)態(tài)，CISS推出的人工智能與國際安全研究動(dòng)態(tài)第11202421-22日，美國將舉辦人工智能安全研究所國際網(wǎng)絡(luò)（InternationalNetworkofAISafetyInstitutes）第一、峰會核心議題和動(dòng)向推進(jìn)前沿人工智能模型的風(fēng)險(xiǎn)評估與安全測試1OpenAIChatGpt實(shí)則隱瞞自身真正目標(biāo)的能力。[2]（ISafetySummit）風(fēng)險(xiǎn)評估機(jī)制確保這些前沿人工智能模型可控性和安全性。正逐漸成為高風(fēng)險(xiǎn)領(lǐng)域的必備安風(fēng)險(xiǎn)。[3]這種測試方法不僅適用于人工智能開發(fā)初期的風(fēng)的人工智能安全威脅，并為未來全球技術(shù)標(biāo)準(zhǔn)制定奠定基礎(chǔ)。[4]峰會預(yù)計(jì)還將就人工智能模型在軍事和生物安全等高風(fēng)險(xiǎn)領(lǐng)域的應(yīng)用制定更嚴(yán)格的技術(shù)安全標(biāo)準(zhǔn)。為此，政府、技術(shù)研發(fā)機(jī)構(gòu)及國際標(biāo)準(zhǔn)組織可能會合作建立一套全面的安全評估框架，涵蓋風(fēng)險(xiǎn)量化、透明度標(biāo)準(zhǔn)和數(shù)據(jù)管理等關(guān)鍵方面。此框架旨在指導(dǎo)各國在推動(dòng)技術(shù)創(chuàng)新的同時(shí)，有效防控可能出現(xiàn)的風(fēng)險(xiǎn)，以達(dá)成技術(shù)發(fā)展與安全保障的平衡。探討構(gòu)建人工智能安全治理的國際框架人工智能技術(shù)的跨國應(yīng)用特性導(dǎo)致單一國家的治理手治理框架已成為應(yīng)對人工智能安全挑戰(zhàn)的當(dāng)務(wù)之急[5]。本體、可操作的治理機(jī)制，推動(dòng)跨國合作。6在風(fēng)險(xiǎn)。峰會預(yù)期將討論具有一定約束力的協(xié)議或意向書，促進(jìn)透明度與公眾信任機(jī)制對人工智能的接受度和信任直接影響技術(shù)在各領(lǐng)域廣泛應(yīng)范圍內(nèi)的安全部署奠定基礎(chǔ)。峰會還可能就數(shù)據(jù)保護(hù)和隱私管理提出新的國際標(biāo)準(zhǔn)二、峰會預(yù)期成果構(gòu)建人工智能風(fēng)險(xiǎn)協(xié)同應(yīng)對機(jī)制在人工智能相關(guān)風(fēng)險(xiǎn)或突發(fā)事件發(fā)生時(shí)提高各國集體應(yīng)對8能潛在威脅時(shí)能協(xié)調(diào)一致。9國在面臨高風(fēng)險(xiǎn)人工智能模型或前沿人工智能技術(shù)可能帶高程度的風(fēng)險(xiǎn)識別和管理一致性。擴(kuò)大人工智能安全研究所國際合作網(wǎng)絡(luò)峰會另一個(gè)重要預(yù)期成果是推動(dòng)國際人工智能安全研究所網(wǎng)絡(luò)的發(fā)展。該網(wǎng)絡(luò)旨在整合全球人工智能安全研究資202320244月簽署諒解備忘錄，將共同努力開發(fā)最先進(jìn)人工智能模型測試。20245這一倡議的最終目標(biāo)是通過建立一個(gè)全球性協(xié)作網(wǎng)絡(luò)，國合作的實(shí)踐落地，計(jì)劃在各成員國之間建立共享資源庫，10等標(biāo)準(zhǔn)機(jī)構(gòu)合應(yīng)對能力。為鞏固其影響力，該網(wǎng)絡(luò)還將加強(qiáng)與私營部門、發(fā)布全球人工智能安全治理聲明對人工智能生成內(nèi)容進(jìn)行清晰標(biāo)識，以避免虛假信息擴(kuò)散，同時(shí)便于用戶和監(jiān)管機(jī)構(gòu)對人工智能應(yīng)用合法性和潛在風(fēng)險(xiǎn)進(jìn)行識別和監(jiān)督。[在行業(yè)和企業(yè)層面，聲明可能要求人工智能開發(fā)者采用智能安全官等方式識別和控制人工智能潛在安全漏洞和倫理風(fēng)險(xiǎn)。[12重疊和資源浪費(fèi)。[13]三、峰會影響分析增強(qiáng)全球人工智能治理的協(xié)調(diào)性本次峰會的預(yù)期成果將顯著提升各國在人工智能安全14]通過此次15]這種框架將首先針對高風(fēng)險(xiǎn)的人工智能應(yīng)用，如軍事安全、公共基礎(chǔ)設(shè)施保護(hù)等領(lǐng)域，加劇全球人工智能治理的陣營化趨勢本次峰會預(yù)計(jì)將加劇全球人工智能安全領(lǐng)域的“陣營為核心的西方國家在英峰會很可能推動(dòng)跨國安全治理協(xié)議，通過“核心圈層”和“外圍圈層”模式強(qiáng)化聯(lián)盟內(nèi)部技術(shù)流通與信息保護(hù)。這意味著在高風(fēng)險(xiǎn)人工智能應(yīng)用上，西方國家間合作將更加密切，而外圍國家在技術(shù)準(zhǔn)入上則會受到更嚴(yán)格審查和限制。例如，峰會可能推動(dòng)建立人工智能風(fēng)險(xiǎn)分級管理系統(tǒng)，對不同等級的人工智能模型設(shè)置差異化的安全和透明性要求。這種差異化機(jī)制對西方國家而言，有助于提高人工智能模型的透明度、合規(guī)性并樹立嚴(yán)格監(jiān)管的正面形象。而對于非西方國家來說，這種分級管理體系將增設(shè)技術(shù)壁壘，使得它們在16]這加劇人工智能國際安全領(lǐng)域“治理內(nèi)卷”本次峰會可能進(jìn)一步加劇全球人工智能治理的“內(nèi)卷化”現(xiàn)象。盡管各國難以迅速將監(jiān)管規(guī)則落地，但為了吸引國際注意、展示政績，各國可能繼續(xù)投入資源舉辦類似的高層會議和多邊倡議。這種象征性的“峰會效應(yīng)”可能導(dǎo)致各國在人工智能治理中逐漸陷入形式化競爭，但實(shí)際治理成效可能有限。首先，在本次峰會激勵(lì)下，各國預(yù)計(jì)會競相推出新的人工智能監(jiān)管工具和政策，以展示在人工智能安全治理方面的積極姿態(tài)。[17]然而，這些政策可能大多響應(yīng)峰會提出的通用標(biāo)準(zhǔn)，缺乏具體的執(zhí)行措施，因此往往僅停留在表面宣示階段，未能結(jié)合各國實(shí)際需求和資源條件。[18]尤其是資源不足或技術(shù)相對薄弱的國家，可能會采取高度一致的政策框架，而缺乏落實(shí)執(zhí)行的實(shí)際支撐，導(dǎo)致人工智能治理政策趨同。這樣的同質(zhì)化趨勢形成“治理內(nèi)卷”，各國在不斷投入精力推出新政策、塑造宏觀框架，但在實(shí)際操作中，由于缺乏執(zhí)行力和本地化調(diào)整，難以對人工智能安全治理產(chǎn)生實(shí)質(zhì)助益。為在人工智能治理中強(qiáng)化自身影響力，各國或區(qū)域組織可能會爭相組織獨(dú)立的人工智能治理峰會，導(dǎo)致“競爭性峰會”數(shù)量激增，議題和目標(biāo)的高度重疊使得國際資源分散、政策進(jìn)一步碎片化。[19]缺乏協(xié)調(diào)的多邊會議使得各國在不同的治理標(biāo)準(zhǔn)間徘徊，增加了政策執(zhí)行復(fù)雜性，也造成寶貴資源浪費(fèi)?？傊?，本次峰會存在引發(fā)政策“過度疊加”的現(xiàn)象，形成治理框架表面豐富、實(shí)際無效局面的風(fēng)險(xiǎn)。參考文獻(xiàn)：C., & Drexel, B. (2024). Catalyzing Crisis. https:///publications/reports/catalyzing-crisisSinger,S.(2024).HowtheUKShouldEngageChinaatFrontier.CarnegieEndowment for International /posts/2024/10/lammy-china-ai-safety-cooperation?lang=enGoodfellow,I.,Papernot,N.,Huang,S.,Duan,Abbeel,&Clark,J.(2017).Attackingmachinelearningwithadversarialexamples.OpenAIBlog,24,1.Lang,C.(2024).AdvancingAIsafetyinternationalcollaboration.whatshouldhappennext.AtlanticCouncil.https:///blogs/new-atlanticist/advancing-ai-safety-requires-international-collaboration-heres-what-should-happen-next/Dafoe,A.(2018).AIgovernance:aagenda.GovernanceofAIProgram,FutureofHumanityInstitute,UniversityofOxford:Oxford,UK,1442,1443.Allen,G.C.,&Adamson,G.(2024).TheAISafetyInstituteInternationalNetwork:NextStepsandRecommendations.CSIS.https:///analysis/ai-safety-institute-international-network-next-steps-and-recommendationsE.(2024).TheU.S.forAISafety:AConversationwithElizabethDirectoroftheU.S.AISafetyInstitute.C./analysis/us-vision-ai-safety-conversation-elizabeth-kelly-director-us-ai-safety-instituteJ.&Triolo,(2024).TheBletchleyParkprocesscouldbeabuildingblock for global cooperation on AI safety. /articles/the-bletchley-park-process-could-be-a-building-block-for-global-cooperation-on-ai-safety/G.,&Hass,R.(2024).AroadmapforaUS-ChinaAIdialogue.Brookings.https:///articles/a-roadmap-for-a-us-china-ai-dialogue/Petroupoulos,A.(2024,September10).TheAISafetyInstituteNetwork:Who,WhatandHow?-ICFG.https://icfg.eu/the-ai-safety-institute-network-who-what-and-how/Allen,G.C.,&Goldston,I.(2024).TheBidenNationalSecurityMemorandumonAIExplained.CSIS.org./analysis/biden-administrations-national-security-memorandum-ai-explainedCsernatoni,R.(2024).TheAIGovernanceArmsRace:SummitPageantrytoCarnegieEndowmentforInternationalPeace./research/2024/10/the-ai-governance-arms-race-from-summitantry-to-progress?lang=enA.(2024).AnewinstitutionforgoverningAI?LessonsBrookings./articles/a-new-institution-for-governing-ai-lessons-from-gpai/Roberts,H.,Hine,E.,M.,&Floridi,L.(2024).GlobalAIgovernance:barriersandpathwaysforward.InternationalAffairs,100(3),1275-1286.Schmitt,L.(2022).MappingglobalAIgovernance:anascentregimeinafragmentedlandscape.AIandEthics,2(2),303-314.Paul,R.(2023).Europeanartificialintelligence“trustedthroughouttheworld”:Risk‐basedregulationandthefashioningofacompetitivecommonAImarket.Regulation&Governance./10.1111/rego.12563Pouget,H.(2024).AISummitIsaChancetoReshapeGlobalNarrativeson AI. Carnegie Endowment for International /posts/2024/07/france-ai-summit-reshape-global-narrative?lang=enAcharya,A.(2004