為人類(lèi)治理人工智能-2025-02-宏觀大勢(shì)

全球人工智能科學(xué)小組、加強(qiáng)全球人工智能治理政策智能標(biāo)準(zhǔn)交流中心、在聯(lián)合國(guó)秘書(shū)處內(nèi)設(shè)置人工智能辦公人工智能技術(shù)具有巨大的“向善”的潛力，從開(kāi)辟新的科學(xué)探索領(lǐng)域、優(yōu)化能源網(wǎng)絡(luò)，到改善公共衛(wèi)生和農(nóng)業(yè)發(fā)展，乃至實(shí)現(xiàn)聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)等方面都可以發(fā)揮重要作用。然而，如果未能實(shí)現(xiàn)有效治理，人工智能帶來(lái)的機(jī)遇就難以實(shí)現(xiàn)或者無(wú)法得到公平的分配。與此同時(shí)，快速、不透明和自主的人工智能系統(tǒng)為人類(lèi)帶來(lái)了嚴(yán)峻挑戰(zhàn)。未來(lái)，在全球范圍內(nèi)開(kāi)展人工智能治理合作是應(yīng)對(duì)風(fēng)險(xiǎn)挑戰(zhàn)的關(guān)鍵。一、人工智能全球治理合作的現(xiàn)狀（一）人工智能全球治理合作的主要原則從長(zhǎng)遠(yuǎn)來(lái)看，人工智能治理必須為人類(lèi)和社會(huì)帶來(lái)切實(shí)的好處和保障。因此，聯(lián)合國(guó)提出了以下原則：1.人工智能應(yīng)由各方以包容方式共同治理并造福所有人盡管人工智能具有極大潛力，但是仍然不具有普惠意義，許多人都無(wú)法接觸使用人工智能。充分利用人工智能的潛力，并使其發(fā)展、部署和使用過(guò)程中的廣泛參與成為可能，是推動(dòng)全球挑戰(zhàn)可持續(xù)解決方案的關(guān)鍵。無(wú)論國(guó)家大小，所有國(guó)家都必須能夠參與人工智能治理。無(wú)論南方或北方的公民，都應(yīng)該能夠通過(guò)人工智能創(chuàng)造自己的機(jī)會(huì)、利用這些機(jī)會(huì)并實(shí)現(xiàn)繁榮。因此，我們需要采取積極和矯正性措施，以解決個(gè)別少數(shù)群體在技術(shù)發(fā)展、部署、使用和治理過(guò)程中長(zhǎng)期以來(lái)的歷史性和結(jié)構(gòu)性排斥問(wèn)題，并將數(shù)字鴻溝轉(zhuǎn)變?yōu)榘菪缘臄?shù)字機(jī)會(huì)。2.人工智能治理必須以公共利益為導(dǎo)向人工智能系統(tǒng)的開(kāi)發(fā)主要集中在科技公司手中。人工智能的優(yōu)化、部署和使用涉及開(kāi)發(fā)者、部署者和用戶(hù)多種群體。從社交媒體的經(jīng)驗(yàn)來(lái)看，人工智能產(chǎn)品和服務(wù)能夠迅速跨越邊界和用戶(hù)類(lèi)別進(jìn)行擴(kuò)展。因此，除了更廣泛的機(jī)會(huì)與風(fēng)險(xiǎn)考量外，人工智能必須以公共利益為核心進(jìn)行治理。僅僅要求“不造成傷害”是一項(xiàng)必要但不足的要求。我們需要更廣泛的框架對(duì)在人工智能生命周期中建造、部署和控制人工智能的主體追責(zé)。這不能僅依賴(lài)于自我監(jiān)管，還需要成員國(guó)一致執(zhí)行的具有約束力的規(guī)范，以確保公共利益優(yōu)先于私人利益。此外，人工智能多樣化使用的具體場(chǎng)景中有其復(fù)雜性和風(fēng)險(xiǎn)。治理工作必須關(guān)注與多樣性、公平性、包容性、可持續(xù)性、社會(huì)與個(gè)人福祉、競(jìng)爭(zhēng)性市場(chǎng)以及健康創(chuàng)新生態(tài)系統(tǒng)相關(guān)的公共政策目標(biāo)。在此背景下，治理需要擴(kuò)大多元利益相關(guān)方的代表性，同時(shí)在公共和私營(yíng)部門(mén)角色之間劃分職責(zé)時(shí)提供更清晰的界定。以公共利益為核心的治理還意味著對(duì)公共技術(shù)、基礎(chǔ)設(shè)施和公共官員能力建設(shè)進(jìn)行投資。3.人工智能治理應(yīng)與數(shù)據(jù)治理和促進(jìn)數(shù)據(jù)共享空間協(xié)同進(jìn)行數(shù)據(jù)是人工智能系統(tǒng)的關(guān)鍵，其治理和管理必須與人工智能治理的其他組成部分相結(jié)合。學(xué)術(shù)界強(qiáng)調(diào)，數(shù)據(jù)治理應(yīng)作為短期優(yōu)先事項(xiàng)處理。私營(yíng)部門(mén)實(shí)體指出，數(shù)據(jù)治理措施應(yīng)補(bǔ)充人工智能治理，強(qiáng)調(diào)全面的隱私法和負(fù)責(zé)任的人工智能使用。國(guó)際組織和民間社會(huì)組織強(qiáng)調(diào)，人工智能訓(xùn)練數(shù)據(jù)的治理應(yīng)保護(hù)消費(fèi)者權(quán)益，并通過(guò)對(duì)人工智能訓(xùn)練數(shù)據(jù)的非排他性訪問(wèn)來(lái)支持人工智能開(kāi)發(fā)者之間的公平競(jìng)爭(zhēng)，強(qiáng)調(diào)了對(duì)具體和可付諸行動(dòng)的數(shù)據(jù)治理措施的呼吁。聯(lián)合國(guó)被確定為應(yīng)對(duì)這些治理挑戰(zhàn)和縮小資源差距的一個(gè)關(guān)鍵場(chǎng)所。我們需要建立隱私和安全保護(hù)框架的法律與技術(shù)安排，在符合適用法律的前提下，促進(jìn)數(shù)據(jù)使用。同時(shí)，還應(yīng)鼓勵(lì)發(fā)展公共數(shù)據(jù)共享，尤其是針對(duì)解決社會(huì)挑戰(zhàn)至關(guān)重要的公共數(shù)據(jù)，使多方利益相關(guān)者可以使用。4.人工智能治理必須具有普遍性并與多利益相關(guān)方共同協(xié)作任何人工智能治理工作都應(yīng)優(yōu)先爭(zhēng)取不同成員國(guó)和利益相關(guān)者的普遍支持。尤其需特別關(guān)注包容性參與，降低全球南方被排除社區(qū)的進(jìn)入門(mén)檻。同時(shí)，除了要求現(xiàn)有機(jī)構(gòu)根據(jù)人工智能的影響審查其當(dāng)前職能，還需要新的橫向協(xié)調(diào)和監(jiān)督職能，并應(yīng)由新的組織結(jié)構(gòu)來(lái)承擔(dān)。新舊機(jī)構(gòu)可以形成一個(gè)共同的治理網(wǎng)絡(luò)。此外，治理框架還需理解推動(dòng)人工智能開(kāi)發(fā)、部署和使用的不同文化意識(shí)形態(tài)，建立創(chuàng)新結(jié)構(gòu)以吸納私營(yíng)部門(mén)、學(xué)術(shù)界和民間社會(huì)與政府共同參與。可以借鑒以往追求公共利益的合作努力，例如國(guó)際勞工組織的三方結(jié)構(gòu)以及聯(lián)合國(guó)全球契約。5.人工智能治理應(yīng)立足于《聯(lián)合國(guó)憲章》、國(guó)際人權(quán)法和可持續(xù)發(fā)展目標(biāo)等其他商定的國(guó)際承諾聯(lián)合國(guó)在規(guī)范性和制度性方面具有獨(dú)特的作用。我們需要將人工智能治理與聯(lián)合國(guó)的核心價(jià)值觀與《聯(lián)合國(guó)憲章》及其對(duì)和平與安全、人權(quán)以及可持續(xù)發(fā)展的承諾對(duì)應(yīng)，作為其治理基礎(chǔ)和指南針。聯(lián)合國(guó)能夠從經(jīng)濟(jì)、社會(huì)、健康、安全和文化等多方面考慮人工智能的全球影響，所有這些都以普遍尊重和執(zhí)行人權(quán)與法治為基礎(chǔ)。聯(lián)合國(guó)多個(gè)機(jī)構(gòu)已在人工智能對(duì)教育、武器控制等領(lǐng)域的影響上開(kāi)展了重要工作?！度驍?shù)字契約》和《數(shù)字合作路線圖》就是推動(dòng)技術(shù)全球治理框架的多方利益相關(guān)者協(xié)商的典例。聯(lián)合國(guó)成員國(guó)的有效參與、賦能聯(lián)合國(guó)機(jī)構(gòu)并吸納多元化的利益相關(guān)者，對(duì)支持和增強(qiáng)全球人工智能治理響應(yīng)至關(guān)重要。本原則在征求意見(jiàn)過(guò)程中獲得了政府、民間社會(huì)、技術(shù)界、學(xué)術(shù)界和私營(yíng)部門(mén)等所有利益攸關(guān)方的最有力支持。2024年3月聯(lián)合國(guó)大會(huì)通過(guò)了關(guān)于抓住安全、可靠和值得信賴(lài)的人工智能系統(tǒng)為可持續(xù)發(fā)展帶來(lái)的機(jī)遇的第A/78/265號(hào)決議。我們深信，為了減輕人工智能的風(fēng)險(xiǎn)和危害，確保人工智能能夠真正造福全人類(lèi)，必須將人權(quán)置于人工智能治理的中心。這一對(duì)人權(quán)的基本承諾貫穿各領(lǐng)域，適用于后文提出的所有建議。（二）人工智能全球治理合作的主要機(jī)制目前關(guān)于人工智能治理的文件不勝枚舉，制定主體多樣、國(guó)際舉措紛繁。從主體上看，各國(guó)政府、公司、財(cái)團(tuán)、區(qū)域以及國(guó)際性組織均有涉獵。此外，在聯(lián)合國(guó)系統(tǒng)內(nèi)也出現(xiàn)了一系列文件和舉措中。表2展示了可能適用于人工智能的26個(gè)特定領(lǐng)域與聯(lián)合國(guó)有關(guān)的文書(shū)，其中25項(xiàng)文書(shū)具有約束力，需要對(duì)其進(jìn)行解釋。聯(lián)合國(guó)和相關(guān)組織的另外32份領(lǐng)域級(jí)文件專(zhuān)門(mén)關(guān)注人工智能，但都不具有約束力。從舉措上看，主要包括指南、框架、原則、宣言，還有行業(yè)標(biāo)準(zhǔn)。相關(guān)舉措涵蓋了從雙邊和小多邊合作到大型多邊合作的不同國(guó)際合作層面。例如，新加坡與美國(guó)、英國(guó)與美國(guó)的雙邊合作，以及歐盟、東盟、非盟等區(qū)域集團(tuán)的多邊合作。同時(shí)，人工智能峰會(huì)、全球標(biāo)準(zhǔn)制定機(jī)構(gòu)和行業(yè)標(biāo)準(zhǔn)組織也采取了系列舉措，顯示了政府、企業(yè)和國(guó)際組織在推動(dòng)國(guó)際合作中的積極作用，如表（三）人工智能全球治理合作的主要進(jìn)展如今，人工智能全球治理已經(jīng)從原則討論邁向?qū)嶋H機(jī)制建設(shè)與具體合作項(xiàng)目的實(shí)施，為應(yīng)對(duì)技術(shù)帶來(lái)的全球挑戰(zhàn)和機(jī)遇奠定了基礎(chǔ)。具體包括：明確治理框架與原則。《全球數(shù)字契約》與《數(shù)字合作路線圖》等倡議為全球范圍內(nèi)的人工智能治理提供了宏觀指導(dǎo)，強(qiáng)調(diào)多利益相關(guān)方的參與，并倡導(dǎo)在人工智能開(kāi)發(fā)和應(yīng)用中遵循透明、公正、包容和可持續(xù)原則。建立多邊合作機(jī)制。聯(lián)合國(guó)鼓勵(lì)成員國(guó)、私營(yíng)部門(mén)、學(xué)術(shù)界和民間社會(huì)共同參與治理框架的設(shè)計(jì)與實(shí)施。例如，聯(lián)合國(guó)機(jī)構(gòu)鼓勵(lì)通過(guò)擴(kuò)大全球南方國(guó)家的參與，縮小全球范圍內(nèi)的數(shù)字鴻溝；聯(lián)合國(guó)教科文組織對(duì)人工智能在教育領(lǐng)域的應(yīng)用進(jìn)行研究；聯(lián)合國(guó)裁軍事務(wù)處探討人工智能在軍事領(lǐng)域的使用與控制。多國(guó)聯(lián)合基金提供支持。亞洲基礎(chǔ)設(shè)施投資銀行與新開(kāi)發(fā)銀行合作，為“一帶一路”沿線國(guó)家的人工智能與數(shù)字基礎(chǔ)設(shè)施項(xiàng)目提供資金支持。二、人工智能全球治理合作面臨的三大挑戰(zhàn)多個(gè)國(guó)家、地區(qū)、多利益相關(guān)方和其他倡議取得了有意義的成果。然而，除了聯(lián)合國(guó)提出的幾項(xiàng)倡議之外，沒(méi)有一項(xiàng)倡議能真正具有全球影響力。人工智能治理的代表性不足使得其無(wú)法應(yīng)對(duì)全球性的人工智能技術(shù)及其影響。人工智能倡議和機(jī)構(gòu)間的協(xié)調(diào)性不足可能使世界人工智能治理變得互不關(guān)聯(lián)、互不兼容。實(shí)施性不足削弱了國(guó)家、私營(yíng)部門(mén)、民間社會(huì)、學(xué)術(shù)界和技術(shù)界將承諾轉(zhuǎn)化為實(shí)際成果的能力。大多數(shù)倡議在政府間層面并不完全具有代表性，許多倡議無(wú)法涵蓋全球各地區(qū)的特點(diǎn)。如表4所示，在7項(xiàng)非聯(lián)合國(guó)的區(qū)域人工智能倡議中，僅有7個(gè)國(guó)家加入了所有倡議，而118個(gè)國(guó)家沒(méi)有加入任何倡議。這些國(guó)家主要為南半球的國(guó)家，但即使是人工智能領(lǐng)先的國(guó)家，其代表性也不均衡。在治理的早期階段存在一定程度的實(shí)驗(yàn)、規(guī)范間的競(jìng)爭(zhēng)以及對(duì)新技術(shù)的適應(yīng)差異，具有選擇性是可以理解的。然而，隨著國(guó)際人工智能治理逐漸成熟，全球代表性才能確保制度的公平和有效。公平性要求更多的聲音在如何治理人工智能的決策中發(fā)揮有意義的作用。而有效性要求人工智能治理制度必須橫跨全球，避大部分國(guó)家都認(rèn)為國(guó)際人工智能治理代表性不足的問(wèn)題亟需解決，而則聯(lián)合國(guó)可以成為將世界團(tuán)結(jié)起來(lái)的論壇。僅區(qū)際樣本，不包括區(qū)域樣本樣本：經(jīng)合組織《人工智能原則》（2019年）、20國(guó)集團(tuán)《人工智能原則》（2019年）、歐洲委員會(huì)人工智能公約起草小組（2022-2024年）、GPAI《部長(zhǎng)級(jí)宣言》（2022年）、七國(guó)集團(tuán)《部長(zhǎng)聲明》（2023年）、《布萊切利宣言》（2023年）和《首爾部長(zhǎng)級(jí)宣言》（僅區(qū)際樣本，不包括區(qū)域樣本118個(gè)國(guó)家*未加入任何抽樣的人工智能治理倡議/文書(shū)按區(qū)域分組劃分的未參與國(guó)家29個(gè)國(guó)家中有0個(gè)23個(gè)國(guó)家中有118個(gè)國(guó)家*未加入任何抽樣的人工智能治理倡議/文書(shū)按區(qū)域分組劃分的未參與國(guó)家29個(gè)國(guó)家中有0個(gè)23個(gè)國(guó)家中有1個(gè)33個(gè)國(guó)家中有25個(gè)僅憑大量的人工智能治理倡議并不能保證為人類(lèi)有效合作，因?yàn)閰^(qū)域間的倡議無(wú)法保證有效銜接，已經(jīng)出現(xiàn)了不兼容的風(fēng)險(xiǎn)。沒(méi)有一個(gè)全球性機(jī)制讓所有國(guó)際標(biāo)準(zhǔn)制定組織、國(guó)際科學(xué)研究倡議或人工智能能力建設(shè)倡議相互協(xié)調(diào)，這導(dǎo)致了各自為政。聯(lián)合國(guó)系統(tǒng)內(nèi)也出現(xiàn)了一系列協(xié)調(diào)性不足。表2顯示了可能適用于人工智能的各個(gè)具體領(lǐng)域的聯(lián)合國(guó)相關(guān)文書(shū)，這些措施大多是針對(duì)特定領(lǐng)域建立的，而沒(méi)有一個(gè)實(shí)體能夠全面地開(kāi)展這方面的工作，這就限制了現(xiàn)有聯(lián)合國(guó)獨(dú)自應(yīng)對(duì)人工智能對(duì)全球多方面影響的能力。然而，僅有代表性和協(xié)調(diào)性是不夠的，還需要切實(shí)采取行動(dòng)，確保善治承諾在實(shí)踐中轉(zhuǎn)化為具體成果。與私營(yíng)部門(mén)合作十分重要。我們需要民間社會(huì)和科學(xué)專(zhuān)家的積極參與，讓政府和私營(yíng)公司誠(chéng)實(shí)地履行承諾和主張。在國(guó)家內(nèi)部和國(guó)家之間，利用人工智能服務(wù)公共利益的推動(dòng)因素不足，這導(dǎo)致了實(shí)施方面的關(guān)鍵問(wèn)題。盡管許多國(guó)家已經(jīng)制定了國(guó)家戰(zhàn)略，并且一些國(guó)際援助倡議也正在出現(xiàn)，但這些機(jī)構(gòu)的網(wǎng)絡(luò)和資源仍然不足。因此，在全球?qū)用鎸?guó)家和區(qū)域的能力建設(shè)倡議聯(lián)系起來(lái)，匯集資源以支持那些未能參與這些努力的國(guó)家，有助于確保所有國(guó)家都能分享與人工智能相關(guān)的機(jī)遇。三、推動(dòng)人工智能全球治理合作的路徑建議（一）建設(shè)國(guó)際人工智能科學(xué)小組建議成立一個(gè)獨(dú)立的國(guó)際人工智能科學(xué)小組，由該領(lǐng)域的多學(xué)科專(zhuān)家自愿以個(gè)人身份組成。1.主要工作一是發(fā)布年度報(bào)告。調(diào)查與人工智能相關(guān)的能力、機(jī)遇、風(fēng)險(xiǎn)和不確定性，識(shí)別在技術(shù)趨勢(shì)方面達(dá)成科學(xué)共識(shí)的領(lǐng)域，以及需要開(kāi)展更多研究的領(lǐng)域。二是編制季度專(zhuān)題研究摘要。就人工智能幫助實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)的領(lǐng)域進(jìn)行研究，重點(diǎn)關(guān)注可能服務(wù)不足的公共利益領(lǐng)域。三是發(fā)布特別報(bào)告。主要針對(duì)新出現(xiàn)的問(wèn)題，特別是新的風(fēng)險(xiǎn)或治理方面的重大漏洞。該科學(xué)小組將涵蓋廣泛的重點(diǎn)，全面關(guān)注一系列優(yōu)先事項(xiàng)，包括尋找人工智能相關(guān)機(jī)會(huì)的專(zhuān)業(yè)知識(shí)，以及促進(jìn)對(duì)可持續(xù)發(fā)展目標(biāo)應(yīng)用領(lǐng)域的深入研究。然而，這樣的科學(xué)小組不一定開(kāi)展自己的研究，而應(yīng)成為網(wǎng)絡(luò)化行動(dòng)的催化劑。它將減少信息不對(duì)稱(chēng)，幫助避免投資方向錯(cuò)誤，并保持全球?qū)＜揖W(wǎng)絡(luò)的信息暢通。2.建設(shè)意義通過(guò)聯(lián)合國(guó)獨(dú)特的全球網(wǎng)絡(luò)，可以在廣泛的基礎(chǔ)上達(dá)成共同理解，以適合各種社會(huì)經(jīng)濟(jì)和地理環(huán)境的方式提供研究成果。利用聯(lián)合國(guó)的號(hào)召力和包容各利益相關(guān)者的影響力，國(guó)際科學(xué)小組能夠提供值得信賴(lài)的科學(xué)合作過(guò)程和成果，并糾正信息不對(duì)稱(chēng)，以解決代表性和協(xié)調(diào)性不足的問(wèn)題，從而促進(jìn)公平有效的國(guó)際人工智能治理。3.如何建設(shè)這種機(jī)構(gòu)有先例可循。例如，聯(lián)合國(guó)原子輻射效應(yīng)科學(xué)委員會(huì)、生物多樣性和生態(tài)系統(tǒng)服務(wù)政府間科學(xué)政策平臺(tái)（IPBES）、南極研究科學(xué)委員會(huì)和政府間氣候變化專(zhuān)門(mén)委員會(huì)（IPCC）都以系統(tǒng)的方法解決影響不同部門(mén)和全球人口的復(fù)雜問(wèn)題。然而，人工智能科學(xué)小組不應(yīng)直接照搬這些先例，而應(yīng)量身定制一種適合人工智能技術(shù)的方法，以整理和促進(jìn)前沿研究，為那些尋求公正、可信的科學(xué)觀點(diǎn)的人提供信息。4.運(yùn)作機(jī)制小組的初始任期可為3-5年（經(jīng)秘書(shū)長(zhǎng)審查后可延長(zhǎng)并可在以下基礎(chǔ)上運(yùn)作：一是成員結(jié)構(gòu)應(yīng)重視跨學(xué)科性，并確保地區(qū)和性別的多樣性和代表性。最初可以有30-50名成員，通過(guò)會(huì)員國(guó)和自我提名相結(jié)合的方式任命。成員可在3-5年的總體任期內(nèi)定期輪換。二是應(yīng)舉行線上或線下會(huì)議。會(huì)議可在聯(lián)合國(guó)相關(guān)實(shí)體所在城市輪流舉行。三是應(yīng)保持獨(dú)立性，特別是在調(diào)查結(jié)果和結(jié)論方面。四是應(yīng)與其他國(guó)際機(jī)構(gòu)和相關(guān)區(qū)域組織合作，并在其基礎(chǔ)上開(kāi)展研究工作。五是應(yīng)設(shè)立指導(dǎo)委員會(huì)，以制定研究議程，確保觀點(diǎn)的包容性并納入倫理考慮因素，監(jiān)督資源的分配，促進(jìn)與學(xué)術(shù)機(jī)構(gòu)和其他利益相關(guān)者網(wǎng)絡(luò)的合作，并審查小組的活動(dòng)和成果。5.主要受眾科學(xué)小組將有三大主要受眾：一是全球科學(xué)界?？茖W(xué)小組可以鼓勵(lì)他們開(kāi)展更多關(guān)注公益的研究。二是會(huì)員國(guó)和決策者。定期獨(dú)立評(píng)估將為會(huì)員國(guó)、決策者和本報(bào)告建議的其他進(jìn)程提供信息。三是公眾。通過(guò)公開(kāi)報(bào)告，科學(xué)小組可以成為公眾高質(zhì)量信息的官方來(lái)源。（二）在聯(lián)合國(guó)框架下發(fā)起更多政策對(duì)話1.必要性當(dāng)前，全球人工智能治理的現(xiàn)狀呈現(xiàn)出明顯的碎片化和不完整性，這一點(diǎn)從118個(gè)國(guó)家未能參與最近七個(gè)主要的非聯(lián)合國(guó)人工智能治理舉措中可見(jiàn)一斑。這些舉措的缺失不僅凸顯了國(guó)際人工智能治理的選擇性，也暴露了在代表性方面的顯著差距，即使是在人工智能能力較強(qiáng)的60個(gè)國(guó)家中也未能幸免。2.工作機(jī)制更多的人工智能治理政策對(duì)話，核心在于通過(guò)聯(lián)合國(guó)平臺(tái)召集全球各利益相關(guān)方，共同參與到人工智能治理的多邊對(duì)話中。這個(gè)對(duì)話機(jī)制建議每年舉行兩次，目的在于促進(jìn)全球范圍內(nèi)對(duì)人工智能治理的深入理解和廣泛共識(shí)。通過(guò)這樣的政策論壇，各國(guó)能夠就人工智能的發(fā)展?jié)摿?、倫理?wèn)題、以及對(duì)社會(huì)的廣泛影響進(jìn)行開(kāi)放和坦誠(chéng)的交流，探討如何在推動(dòng)技術(shù)創(chuàng)新的同時(shí)，確保人工智能的發(fā)展能夠尊重和保護(hù)人權(quán)，實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)，為全球人工智能治理提供指導(dǎo)性的原則和實(shí)踐案例，幫助各國(guó)在人工智能的浪潮中找到平衡點(diǎn)，確保技術(shù)進(jìn)步能夠普惠全人類(lèi)。3.主要作用一是政策對(duì)話將強(qiáng)化國(guó)際間的互操作性與合作精神。它將鼓勵(lì)私營(yíng)部門(mén)和公共部門(mén)在人工智能治理上形成合力，共同開(kāi)發(fā)和實(shí)施有效的治理措施。通過(guò)這種合作，可以更好地應(yīng)對(duì)人工智能帶來(lái)的跨國(guó)界挑戰(zhàn)，如數(shù)據(jù)保護(hù)、隱私安全問(wèn)題、就業(yè)影響等。二是該對(duì)話機(jī)制還將提供一個(gè)自愿分享經(jīng)驗(yàn)的平臺(tái)，使得各國(guó)能夠就那些對(duì)本國(guó)機(jī)構(gòu)構(gòu)成挑戰(zhàn)的人工智能事件進(jìn)行溝通和學(xué)習(xí)。三是國(guó)際人工智能科學(xué)小組的報(bào)告將在論壇上得到討論，確保政策制定能夠基于最新的科學(xué)發(fā)現(xiàn)和證據(jù)。（三）創(chuàng)建人工智能標(biāo)準(zhǔn)交流中心1.必要性在當(dāng)前探索人工智能的初期階段，該領(lǐng)域缺乏明確的標(biāo)準(zhǔn)來(lái)引導(dǎo)和衡量其發(fā)展。圖靈測(cè)試（TuringTest）作為一個(gè)嘗試評(píng)估機(jī)器是否能夠展現(xiàn)出與人類(lèi)相似行為的測(cè)試，雖然在公眾中引起了廣泛的關(guān)注和想象，但其文化意義似乎超越了科學(xué)意義。這些測(cè)試雖然容易為非專(zhuān)業(yè)人士所理解，但它們并不構(gòu)成嚴(yán)謹(jǐn)?shù)目茖W(xué)衡量標(biāo)準(zhǔn)?；诖耍⒁粋€(gè)人工智能標(biāo)準(zhǔn)交流中心顯得尤為重要。這樣的中心可以匯集全球范圍內(nèi)的標(biāo)準(zhǔn)制定機(jī)構(gòu)、技術(shù)企業(yè)、民間社會(huì)的代表以及國(guó)際科學(xué)小組的專(zhuān)業(yè)知識(shí)，共同探討和制定人工智能相關(guān)的標(biāo)準(zhǔn)。這不僅有助于統(tǒng)一對(duì)人工智能系統(tǒng)性能的衡量和評(píng)估標(biāo)準(zhǔn)，而且可以促進(jìn)全球范圍內(nèi)的互操作性，確保人工智能的發(fā)展能夠符合倫理、安全和效率的要求。2.當(dāng)前全球人工智能標(biāo)準(zhǔn)建設(shè)現(xiàn)狀當(dāng)前全球人工智能標(biāo)準(zhǔn)建設(shè)的現(xiàn)狀呈現(xiàn)出快速增長(zhǎng)和多樣化發(fā)展的特點(diǎn)。國(guó)際電信聯(lián)盟（ITU）、國(guó)際標(biāo)準(zhǔn)化組織（ISO）、國(guó)際電工委員會(huì)（IEC）以及電氣電子工程師學(xué)會(huì)（IEEE）等機(jī)構(gòu)采用的人工智能相關(guān)標(biāo)準(zhǔn)數(shù)量正在不斷增加。這一增長(zhǎng)反映了人工智能技術(shù)快速發(fā)展和廣泛應(yīng)用的需求。然而，這一領(lǐng)域的標(biāo)準(zhǔn)化工作存在兩個(gè)主要趨勢(shì)和挑戰(zhàn)。首先，許多標(biāo)準(zhǔn)是為了解決具體問(wèn)題而制定的，但人工智能領(lǐng)域缺乏統(tǒng)一的語(yǔ)言和共同理解，導(dǎo)致許多常用術(shù)語(yǔ)如公平性、安全性、透明度等沒(méi)有統(tǒng)一的定義或衡量標(biāo)準(zhǔn)。其次，存在一種脫節(jié)現(xiàn)象，即為了狹隘的技術(shù)目的或內(nèi)部驗(yàn)證而制定的標(biāo)準(zhǔn)與那些旨在納入更廣泛倫理原則的標(biāo)準(zhǔn)之間缺乏協(xié)調(diào)和一致性。3.工作機(jī)制標(biāo)準(zhǔn)交流中心將通過(guò)與國(guó)際科學(xué)小組和政策對(duì)話的緊密聯(lián)系，推動(dòng)技術(shù)與道德倫理標(biāo)準(zhǔn)的協(xié)調(diào)發(fā)展。該中心將促進(jìn)國(guó)際電信聯(lián)盟、國(guó)際標(biāo)準(zhǔn)化組織、國(guó)際電工委員會(huì)和電氣電子工程師學(xué)會(huì)等機(jī)構(gòu)聯(lián)合舉辦人工智能標(biāo)準(zhǔn)峰會(huì)，確保標(biāo)準(zhǔn)的全球影響力和動(dòng)力。同時(shí)，經(jīng)濟(jì)合作與發(fā)展組織、世界知識(shí)產(chǎn)權(quán)組織、世界貿(mào)易組織心將提供能力建設(shè)信息，支持實(shí)際做法，并分享自我評(píng)估工具，以促進(jìn)標(biāo)準(zhǔn)的實(shí)施和監(jiān)督。隨著安全標(biāo)準(zhǔn)的正式確定，這些標(biāo)準(zhǔn)將為未來(lái)監(jiān)測(cè)和核查機(jī)構(gòu)提供基礎(chǔ)。（四）構(gòu)建人工智能能力建設(shè)組織協(xié)調(diào)網(wǎng)絡(luò)建議創(chuàng)建一個(gè)人工智能能力建設(shè)網(wǎng)絡(luò)，將聯(lián)合國(guó)下屬的一系列合作能力建設(shè)中心連接起來(lái)，向關(guān)鍵參與者提供專(zhuān)業(yè)知識(shí)、算力資源和人工智能訓(xùn)練數(shù)據(jù)。1.主要工作一是通過(guò)支持建立區(qū)域和全球網(wǎng)絡(luò)，促進(jìn)和協(xié)調(diào)區(qū)域和全球人工智能能力的建設(shè)工作。二是提高公職人員的人工智能治理能尋求將人工智能應(yīng)用于本地公共利益案例的研究人員和社會(huì)企業(yè)家提供培訓(xùn)、算力資源和人工智能訓(xùn)練數(shù)據(jù)。2.建設(shè)意義能力建設(shè)網(wǎng)絡(luò)應(yīng)當(dāng)成為國(guó)家和區(qū)域能力的催化劑，而不是硬件、人才和數(shù)據(jù)的集中地。通過(guò)加速學(xué)習(xí)，該網(wǎng)絡(luò)將推動(dòng)國(guó)家人才中心促進(jìn)地方人工智能創(chuàng)新生態(tài)系統(tǒng)的發(fā)展。我們希望該網(wǎng)絡(luò)能夠推動(dòng)人工智能技術(shù)發(fā)展的另一種模式，即自下而上、跨領(lǐng)域、跨地區(qū)的開(kāi)放與協(xié)作模式。由于訓(xùn)練和部署人工智能模型的能源和其他成本不斷上升，以及算力資源閑置的可能性，將算力資源在時(shí)間共享的基礎(chǔ)上連接起來(lái)以便訪問(wèn)，同時(shí)利用這種訪問(wèn)促進(jìn)跨領(lǐng)域人才、數(shù)據(jù)和人工智能模型的發(fā)展，從而實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)，將是非常有意義的。3.如何建設(shè)人工智能的能力建設(shè)需要一種全新的方法，特別是跨領(lǐng)域的培訓(xùn)，以培養(yǎng)新一代的多學(xué)科專(zhuān)家。此外，能力建設(shè)還必須與成果掛鉤，通過(guò)在沙盒中進(jìn)行實(shí)訓(xùn)和開(kāi)展合作項(xiàng)目來(lái)匯集數(shù)據(jù)和算們建議采取戰(zhàn)略性的方法，通過(guò)高性能計(jì)算節(jié)點(diǎn)網(wǎng)絡(luò)匯集和調(diào)配資源，激勵(lì)與可持續(xù)發(fā)展目標(biāo)相關(guān)領(lǐng)域的數(shù)據(jù)集開(kāi)發(fā)，促進(jìn)人工智能模型的共享，并將人工智能治理的最佳實(shí)踐納入主流。這將有助于培養(yǎng)跨領(lǐng)域的人才，確保人權(quán)專(zhuān)業(yè)知識(shí)的整合。換句話說(shuō)，我們建議通過(guò)一系列合作中心的建設(shè)實(shí)施整體戰(zhàn)略，而不是逐個(gè)追逐相互脫節(jié)的項(xiàng)目。理想情況下，全球每個(gè)地區(qū)至少應(yīng)有一個(gè)或兩個(gè)節(jié)點(diǎn)。參與全球人工智能合作組織的專(zhuān)門(mén)知識(shí)中心可以與聯(lián)合國(guó)共同支持能力建設(shè)網(wǎng)絡(luò)。學(xué)術(shù)機(jī)構(gòu)和私營(yíng)部門(mén)的能力建設(shè)貢獻(xiàn)者可通過(guò)最近的區(qū)域節(jié)點(diǎn)或國(guó)際組織尋求附屬關(guān)系。1.功能與目標(biāo)設(shè)立全球性人工智能基金，為彌合全球人工智能技術(shù)和治理鴻溝具有重要意義。如沒(méi)有全球范圍內(nèi)的基金支持，許多國(guó)家將無(wú)法獲得必要的人工智能的培訓(xùn)、算力、模型訓(xùn)練等。強(qiáng)大的市場(chǎng)力量影響著人才和算力競(jìng)爭(zhēng)的走向，地緣政治的競(jìng)爭(zhēng)也影響著全球人工智能等科技合作的前景。然而，創(chuàng)造一個(gè)所有人都能做出共享并分享利益的人工智能生態(tài)，更加符合我們的集體利益。同時(shí)，確保人工智能模型開(kāi)發(fā)和測(cè)試基礎(chǔ)設(shè)施的多樣化使用，有助于避免人工智能過(guò)分集中在少數(shù)技術(shù)公司可能導(dǎo)致的風(fēng)險(xiǎn)。設(shè)立人工智能全球基金的目標(biāo)，是推動(dòng)構(gòu)建一個(gè)具有互操作性的值得信賴(lài)的人工智能模型所依賴(lài)的基礎(chǔ)設(shè)施和數(shù)據(jù)集，從而更好的為公共利益服務(wù)。這個(gè)目標(biāo)不可能通過(guò)市場(chǎng)的力量自動(dòng)實(shí)現(xiàn)，只有通過(guò)強(qiáng)有力的集體行為才有可能達(dá)成。2.主要投資領(lǐng)域這一基金的重點(diǎn)并非投資構(gòu)建算力資源，事實(shí)上即使最富裕的國(guó)家和公司也很難獲得足夠的算力資源。我們更需要的是推動(dòng)更好的利用現(xiàn)有的高性能計(jì)算資源，推動(dòng)用更好的方法來(lái)連接全球范圍內(nèi)的人才、算力和數(shù)據(jù)。因此，全球人工智能基金的主要投資領(lǐng)域主要包括三個(gè)方向。一是基金可幫助有需要的國(guó)際創(chuàng)新一個(gè)“最低限度”的共享計(jì)算基礎(chǔ)設(shè)施。該設(shè)施可幫助這些國(guó)家訓(xùn)練一個(gè)中小規(guī)模的人工智能模型，可實(shí)現(xiàn)用當(dāng)?shù)卣Z(yǔ)言培訓(xùn)農(nóng)民等功能，為推動(dòng)聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)做出貢獻(xiàn)。二是基金可推動(dòng)在全球范圍內(nèi)創(chuàng)建共享的模型、算力生態(tài)。該生態(tài)可允許全球各國(guó)利用自己的背景數(shù)據(jù)和高質(zhì)量數(shù)據(jù)對(duì)現(xiàn)有的開(kāi)源模型進(jìn)行微調(diào)。同時(shí)，還可以探索構(gòu)建可以共享的算力等基礎(chǔ)設(shè)施，僅收取合理的使用費(fèi)用于該共享生態(tài)的維護(hù)和運(yùn)行成本。三是可投資構(gòu)建一些全球通用的數(shù)據(jù)集。一些基礎(chǔ)性的數(shù)據(jù)集可能很難有商業(yè)價(jià)值，一般沒(méi)有公司愿意進(jìn)行投資，因此需要基金進(jìn)行投資。四是投資于有助于實(shí)現(xiàn)聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)的具體的人工智能應(yīng)用的研發(fā)工作。3.運(yùn)作機(jī)制該基金的管理和運(yùn)作模式旨在通過(guò)籌集和匯集實(shí)物捐助，包括私營(yíng)部門(mén)的捐助，實(shí)現(xiàn)資源的有效分配?；鹬卫韽?qiáng)調(diào)獨(dú)立監(jiān)督和問(wèn)責(zé)，同時(shí)具有包容性，其理事會(huì)成員多元化，涵蓋政府、私營(yíng)部門(mén)、慈善家、民間社會(huì)和聯(lián)合國(guó)機(jī)構(gòu)。此外，基金將整合科學(xué)和專(zhuān)家的投入，確保在數(shù)據(jù)和模型開(kāi)發(fā)中的中立性和信任。在業(yè)務(wù)運(yùn)作方面，基金借鑒了歐洲核研究組織和全球疫苗免疫聯(lián)盟等國(guó)際研發(fā)合作的經(jīng)驗(yàn)，以及共享基礎(chǔ)設(shè)施商業(yè)平臺(tái)的模式。它還將參考全球基金和復(fù)雜風(fēng)險(xiǎn)分析基金的做法，這些機(jī)構(gòu)通過(guò)匯集數(shù)據(jù)來(lái)支持利益相關(guān)方進(jìn)行危機(jī)的預(yù)測(cè)、預(yù)防和應(yīng)對(duì)?？傮w而言，該基金致力于通過(guò)合作和數(shù)據(jù)共享，提高對(duì)全球性挑戰(zhàn)的響應(yīng)能力，確保資源的集中和有效利用。（六）完善全球人工智能數(shù)據(jù)訓(xùn)練治理框架。1.必要性目前，全球范圍內(nèi)對(duì)于人工智能的數(shù)據(jù)訓(xùn)練方面還未能形成有效共識(shí)。盡管已有建議推動(dòng)更廣泛的數(shù)據(jù)訪問(wèn)權(quán)和共享，但實(shí)際執(zhí)行的并不多。為了創(chuàng)建一個(gè)更加多樣化和活躍的人工智能生態(tài)系統(tǒng)，需要提高人工智能訓(xùn)練數(shù)據(jù)的文化、語(yǔ)言和其他特征的透明度，以及識(shí)別并補(bǔ)充代表性不足或“缺失”的數(shù)據(jù)。2.確保人工智能模型數(shù)據(jù)安全的主要方法確保人工智能模型訓(xùn)練數(shù)據(jù)安全的主要方法包括數(shù)據(jù)授權(quán)、數(shù)據(jù)信托和跨境數(shù)據(jù)安排。數(shù)據(jù)授權(quán)允許數(shù)據(jù)所有者和主體在維護(hù)權(quán)利的同時(shí)，安全、有限度地使用其數(shù)據(jù)。數(shù)據(jù)信托作為一種機(jī)制，使個(gè)人和組織能夠集體提供對(duì)其數(shù)據(jù)的訪問(wèn)，而訪問(wèn)權(quán)由受托人控制，確保數(shù)據(jù)所有者在貢獻(xiàn)的同時(shí)保留合法權(quán)利。此外，為了管理數(shù)據(jù)的獲取和使用，尤其是跨境獲取，需要依賴(lài)