人工智能倫理問題建議書

人工智能倫理問題建議書2021年11月24日教科文組織通過的建議書01制定背景編寫過程內(nèi)容解讀主要宗旨全文目錄03050204基本信息《人工智能倫理問題建議書》是經(jīng)過三年籌備磋商于2021年11月24日在聯(lián)合國教科文組織第41屆大會上，193個會員國一致通過的建議書。2023年3月30日，聯(lián)合國教科文組織發(fā)表聲明，呼吁各國政府盡快實施該組織通過的首份人工智能倫理問題全球性協(xié)議《人工智能倫理問題建議書》。制定背景制定背景行業(yè)的自我調(diào)整不足以避免倫理問題，這就是為什么需要《人工智能倫理問題建議書》來提供工具，以確保人工智能的發(fā)展遵紀(jì)守法、避免傷害，并確保當(dāng)傷害發(fā)生時，受害者可以通過問責(zé)制和補救機制來維護自身權(quán)益。

主要宗旨主要宗旨促進人工智能為人類、社會、環(huán)境以及生態(tài)系統(tǒng)服務(wù)，并預(yù)防其潛在風(fēng)險?！督ㄗh書》包含規(guī)范人工智能發(fā)展應(yīng)遵循的原則以及在原則指導(dǎo)下人工智能應(yīng)用的領(lǐng)域。

編寫過程編寫過程在2019年11月舉辦的聯(lián)合國教科文組織第40屆大會作出決定后，教科文組織開始了為期兩年的工作，以建議書的形式擬定這份關(guān)于人工智能倫理的首個全球標(biāo)準(zhǔn)制定文書。2020年，重點是在特設(shè)專家組（AHEG）的協(xié)助下編寫建議書的文本草案。這一階段包括與廣泛的利益攸關(guān)方進行包容性和多學(xué)科的磋商。這些廣泛的磋商對于確保文本盡可能地具有包容性極為重要。在2020年底和2021年，重點是政府間進程和文本草案的談判，以產(chǎn)生《人工智能倫理問題建議書》的最終版本，供2021年底教科文組織大會第41屆會議通過。

2021年11月獲得193個會員國一致通過。

全文序言一、適用范圍二、宗旨和目標(biāo)三、價值觀和原則四、政策行動領(lǐng)域五、監(jiān)測和評估010302040506全文六、本建議書的使用和推廣八、最后條款七、本建議書的宣傳全文序言聯(lián)合國教育、科學(xué)及文化組織（教科文組織）大會于2021年11月9日至24日在巴黎召開第四十一屆會議，認(rèn)識到人工智能（AI）從正負(fù)兩方面對社會、環(huán)境、生態(tài)系統(tǒng)和人類生活包括人類思想具有深刻而動態(tài)的影響，部分原因在于人工智能的使用以新的方式影響著人類的思維、互動和決策，并且波及到教育、人文科學(xué)、社會科學(xué)和自然科學(xué)、文化、傳播和信息，憶及教科文組織根據(jù)《組織法》，力求通過教育、科學(xué)、文化以及傳播和信息促進各國間之合作，對和平與安全作出貢獻，以增進對正義、法治及所確認(rèn)之世界人民均享人權(quán)與基本自由之普遍尊重，深信在此提出的建議書，作為以國際法為依據(jù)、采用全球方法制定且注重人的尊嚴(yán)和人權(quán)以及性別平等、社會和經(jīng)濟正義與發(fā)展、身心健康、多樣性、互聯(lián)性、包容性、環(huán)境和生態(tài)系統(tǒng)保護的準(zhǔn)則性文書，可以引導(dǎo)人工智能技術(shù)向著負(fù)責(zé)任的方向發(fā)展，遵循《聯(lián)合國憲章》的宗旨和原則，考慮到人工智能技術(shù)可以對人類大有助益并惠及所有國家，但也會引發(fā)根本性的倫理關(guān)切，例如：人工智能技術(shù)可能內(nèi)嵌并加劇偏見，可能導(dǎo)致歧視、不平等、數(shù)字鴻溝和排斥，并對文化、社會和生物多樣性構(gòu)成威脅，造成社會或經(jīng)濟鴻溝；算法的工作方式和算法訓(xùn)練數(shù)據(jù)應(yīng)具有透明度和可理解性；人工智能技術(shù)對于多方面的潛在影響，包括但不限于人的尊嚴(yán)、人權(quán)和基本自由、性別平等、民主、社會、經(jīng)濟、政治和文化進程、科學(xué)和工程實踐、一、適用范圍1.本建議書述及與人工智能領(lǐng)域有關(guān)且屬于教科文組織職責(zé)范圍之內(nèi)的倫理問題。建議書以能指導(dǎo)社會負(fù)責(zé)任地應(yīng)對人工智能技術(shù)對人類、社會、環(huán)境和生態(tài)系統(tǒng)產(chǎn)生的已知和未知影響并相互依存的價值觀、原則和行動構(gòu)成的不斷發(fā)展的整體、全面和多元文化框架為基礎(chǔ)，將人工智能倫理作為一種系統(tǒng)性規(guī)范考量，并為社會接受或拒絕人工智能技術(shù)提供依據(jù)。建議書將倫理視為對人工智能技術(shù)進行規(guī)范性評估和指導(dǎo)的動態(tài)基礎(chǔ)，以人的尊嚴(yán)、福祉和防止損害為導(dǎo)向，并立足于科技倫理。2.本建議書無意對人工智能作出唯一的定義，這種定義需要隨著技術(shù)的發(fā)展與時俱進。建議書旨在探討人工智能系統(tǒng)中具有核心倫理意義的特征。因此，本建議書將人工智能系統(tǒng)視為有能力以類似于智能行為的方式處理數(shù)據(jù)和信息的系統(tǒng)，通常包括推理、學(xué)習(xí)、感知、預(yù)測、規(guī)劃或控制等方面。這一方法有三個重要因素：(a)人工智能系統(tǒng)是整合模型和算法的信息處理技術(shù)，這些模型和算法能夠生成學(xué)習(xí)和執(zhí)行認(rèn)知任務(wù)的能力，從而在物質(zhì)環(huán)境和虛擬環(huán)境中實現(xiàn)預(yù)測和決策等結(jié)果。二、宗旨和目標(biāo)5.本建議書旨在提供基礎(chǔ)，讓人工智能系統(tǒng)可以造福人類、個人、社會、環(huán)境和生態(tài)系統(tǒng)，同時防止危害。它還旨在促進和平利用人工智能系統(tǒng)。6.本建議書的目的是在全球現(xiàn)有人工智能倫理框架之外，再提供一部全球公認(rèn)的規(guī)范性文書，不僅注重闡明價值觀和原則，而且著力于通過具體的政策建議切實落實這些價值觀和原則，同時著重強調(diào)包容、性別平等以及環(huán)境和生態(tài)系統(tǒng)保護等問題。7.由于與人工智能有關(guān)的倫理問題十分復(fù)雜，需要國際、地區(qū)和國家各個層面和各個部門的眾多利益攸關(guān)方開展合作，故而本建議書的宗旨是讓利益攸關(guān)方能夠在全球和文化間對話的基礎(chǔ)上共同承擔(dān)責(zé)任。8.本建議書的目標(biāo)如下：(a)依照國際法，提供一個由價值觀、原則和行動構(gòu)成的普遍框架，指導(dǎo)各國制定與人工智能有關(guān)的立法、政策或其他文書；(b)指導(dǎo)個人、團體、社群、機構(gòu)和私營公司的行動，確保將倫理規(guī)范嵌入人工智能系統(tǒng)生命周期的各個階段；(c)在人工智能系統(tǒng)生命周期的各個階段保護、促進和尊重人權(quán)和基本自由、人的尊嚴(yán)和平等，包括性別平等三、價值觀和原則9.首先，人工智能系統(tǒng)生命周期的所有行為者都應(yīng)尊重下文所載的價值觀和原則，并在必要和適當(dāng)?shù)那闆r下，通過修訂現(xiàn)行的和制定新的法律、法規(guī)和業(yè)務(wù)準(zhǔn)則來促進這些價值觀和原則。這必須遵守國際法，包括《聯(lián)合國憲章》和會員國的人權(quán)義務(wù)，并應(yīng)符合國際商定的社會、政治、環(huán)境、教育、科學(xué)和經(jīng)濟可持續(xù)性目標(biāo)，例如聯(lián)合國可持續(xù)發(fā)展目標(biāo)（SDG）。10.價值觀作為催人奮進的理想，在制定政策措施和法律規(guī)范方面發(fā)揮著強大作用。下文概述的一系列價值觀可以激發(fā)理想的行為并是確立原則的基礎(chǔ)，而原則更為具體地闡述作為其根本的價值觀，以便更易于在政策聲明和行動中落實這些價值觀。11.下文概述的所有價值觀和原則本身都是可取的，但在任何實際情況下這些價值觀和原則之間都可能會有矛盾。在特定情況下，需要根據(jù)具體情況進行評估以管控潛在的矛盾，同時考慮到相稱性原則并尊重人權(quán)和基本自由。在所有情況下，可能對人權(quán)和基本自由施加的任何限制均必須具有合法基礎(chǔ)，而且必須合理、必要和相稱，符合各國依據(jù)國際法所承擔(dān)的義務(wù)。要做到明智而審慎地處理這些情況，通常需要與廣泛的相關(guān)利益攸關(guān)方合作，同時利用社會對話以及倫理審議、盡職調(diào)查和影響評估。12.人工智能系統(tǒng)生命周期的可信度和完整性對于確保人工智能技術(shù)造福人類、個人、社會、環(huán)境和生態(tài)系統(tǒng)并且體現(xiàn)出本建議書提出的價值觀和原則至關(guān)重要。四、政策行動領(lǐng)域48.以下政策領(lǐng)域所述的政策行動是對本建議書提出的價值觀和原則的具體落實。主要行動是會員國出臺有效措施，包括政策框架或機制等，并通過開展多種行動，例如鼓勵所有利益攸關(guān)方根據(jù)包括聯(lián)合國《工商企業(yè)與人權(quán)指導(dǎo)原則》在內(nèi)的準(zhǔn)則制定人權(quán)、法治、民主以及倫理影響評估和盡職調(diào)查工具，確保私營公司、學(xué)術(shù)和研究機構(gòu)以及民間社會等其他利益攸關(guān)方遵守這些框架或機制。此類政策或機制的制定過程應(yīng)包括所有利益攸關(guān)方并應(yīng)考慮到各會員國的具體情況和優(yōu)先事項。教科文組織可以作為合作伙伴，支持會員國制定、監(jiān)測和評估政策機制。49.教科文組織認(rèn)識到，各會員國在科學(xué)、技術(shù)、經(jīng)濟、教育、法律、規(guī)范、基礎(chǔ)設(shè)施、社會、文化和其他方面，處于實施本建議書的不同準(zhǔn)備階段。需要指出的是，這里的“準(zhǔn)備”是一種動態(tài)。因此，為切實落實本建議書，教科文組織將：（1）制定準(zhǔn)備狀態(tài)評估方法，協(xié)助有關(guān)會員國確定其準(zhǔn)備進程各個方面在特定時刻的所處狀態(tài)；（2）確保支持有關(guān)會員國制定教科文組織人工智能技術(shù)倫理影響評估（EIA）方法，分享最佳做法、評估準(zhǔn)則、其他機制和分析工作?！菊哳I(lǐng)域1：倫理影響評估】50.會員國應(yīng)出臺影響評估（例如倫理影響評估）框架，以確定和評估人工智能系統(tǒng)的惠益、關(guān)切和風(fēng)險，并酌情出臺預(yù)防、減輕和監(jiān)測風(fēng)險的措施以及其他保障機制。五、監(jiān)測和評估131.會員國應(yīng)根據(jù)本國具體國情、治理結(jié)構(gòu)和憲法規(guī)定，采用定量和定性相結(jié)合的方法，以可信和透明的方式監(jiān)測和評估與人工智能倫理問題有關(guān)的政策、計劃和機制。為支持會員國，教科文組織可以從以下方面作出貢獻：(a)制定以嚴(yán)謹(jǐn)?shù)目茖W(xué)研究為基礎(chǔ)且以國際人權(quán)法為根據(jù)的教科文組織人工智能技術(shù)倫理影響評估（EIA）方法，關(guān)于在人工智能系統(tǒng)生命周期各個階段實施該方法的指南，以及用于支持會員國對政府官員、政策制定者和其他相關(guān)人工智能行為者進行倫理影響評估方法培訓(xùn)的能力建設(shè)材料；(b)制定教科文組織準(zhǔn)備狀態(tài)評估方法，協(xié)助會員國確定其準(zhǔn)備進程各個方面在特定時刻的所處狀態(tài)；(c)制定教科文組織關(guān)于在事先和事后對照既定目標(biāo)評估人工智能倫理政策和激勵政策效力和效率的方法；(d)加強關(guān)于人工智能倫理政策的基于研究和證據(jù)的分析和報告；(e)收集和傳播關(guān)于人工智能倫理政策的進展、創(chuàng)新、研究報告、科學(xué)出版物、數(shù)據(jù)和統(tǒng)計資料，包括通過現(xiàn)有舉措，以支持最佳做法分享和相互學(xué)習(xí)，推動實施本建議書。132.監(jiān)測和評估進程應(yīng)確保所有利益攸關(guān)方的廣泛參與，包括但不限于弱勢群體或處境脆弱群體。應(yīng)確保社會、文化和性別多樣性，以期改善學(xué)習(xí)過程，加強調(diào)查結(jié)果、決策、透明度和成果問責(zé)制之間的聯(lián)系。133.六、本建議書的使用和推廣135.會員國和本建議書確定的所有其他利益攸關(guān)方應(yīng)尊重、促進和保護本建議書提出的人工智能倫理價值觀、原則和標(biāo)準(zhǔn)，并應(yīng)采取一切可行步驟，落實本建議書的政策建議。136.會員國應(yīng)與在本建議書的范圍和目標(biāo)范疇內(nèi)開展活動的所有相關(guān)國家和國際政府組織、非政府組織、跨國公司和科學(xué)組織合作，努力擴大并充實圍繞本建議書采取的行動。制定教科文組織倫理影響評估方法和建立國家人工智能倫理委員會，可以作為這方面的重要手段。七、本建議書的宣傳137.教科文組織是負(fù)責(zé)宣傳和傳播本建議書的主要聯(lián)合國機構(gòu)，因此將與其他相關(guān)聯(lián)合國實體合作開展工作，同時尊重它們的任務(wù)授權(quán)并避免工作重復(fù)。138.教科文組織，包括其世界科學(xué)知識與技術(shù)倫理委員會（COMEST）、國際生物倫理委員會（IBC）和政府間生物倫理委員會（IGBC）等機構(gòu)，還將與其他國際、地區(qū)和分地區(qū)政府組織和非政府組織開展合作。139.盡管在教科文組織范圍內(nèi)，促進和保護任務(wù)屬于各國政府和政府間機構(gòu)的職權(quán)范圍，但民間社會將是倡導(dǎo)公共部門利益的重要行為者，因此教科文組織需要確保和促進其合法性。八、最后條款140.應(yīng)將本建議書作為一個整體來理解，各項基本價值觀和原則應(yīng)被視為相互補充、相互關(guān)聯(lián)。141.本建議書中的任何內(nèi)容既不得解釋為取代、改變或以其他方式損害各國根據(jù)國際法所負(fù)義務(wù)或所享權(quán)利，也不得解釋為允許任何國家、其他政治、經(jīng)濟或社會行為者、群體或個人參與或從事任何有悖人權(quán)、基本自由、人的尊嚴(yán)以及對生物和非生物的環(huán)境與生態(tài)系統(tǒng)所抱之關(guān)切的活動或行為。

內(nèi)容解讀內(nèi)容解讀教科文組織《人工智能倫理問題建議書》是首個關(guān)于以符合倫理要求的方式運用人工智能的全球框架。它指導(dǎo)各國最大限度發(fā)揮人工智能優(yōu)勢，降低其帶來的風(fēng)險。為此，建議書不僅包含價值觀和原則，還在所有相關(guān)領(lǐng)域提出詳細(xì)政策建議。在《人工智能倫理問題建議書》給會員國提供的指導(dǎo)中，“準(zhǔn)備狀態(tài)評估”工具是核心之一。該工具幫助各國確定