【CSA GCR】中美歐人工智能治理的典型法律政策比較與風(fēng)險(xiǎn)治理框架適用（2024年度觀察）

EQ\*jc3\*hps30\o\al(\s\up12(lo),se)EQ\*jc3\*hps30\o\al(\s\up12(u),c)EQ\*jc3\*hps30\o\al(\s\up12(d),u)中美歐人工智能治理的典型法律政策比較與通用風(fēng)險(xiǎn)治理框架適用(2024年度觀察)2隱私與個(gè)人信息保護(hù)法律工作組的官網(wǎng)地址是：@2023云安全聯(lián)盟大中華區(qū)一保留所有權(quán)利。你可以在你的電腦上下載、儲(chǔ)存、展示、查看及打印，或者訪問云安全聯(lián)盟大中華區(qū)官網(wǎng)()。須遵守以下：(a)本文只可作個(gè)人、信息獲取、非商業(yè)用途；(b)本文內(nèi)容不得篡改；(c)本文不得轉(zhuǎn)發(fā)； (d)該商標(biāo)、版權(quán)或其他聲明不得刪除。在遵循中華人民共和國(guó)著作權(quán)法相關(guān)條款情況下合理使用本文內(nèi)容，使用時(shí)請(qǐng)注明引用于云安全聯(lián)盟大中華區(qū)。45致謝《中美歐人工智能治理的典型法律政策比較與通用風(fēng)險(xiǎn)治理框架適用》由隱私與個(gè)人信息保護(hù)法律工作組專家編寫。感謝以下專家和單位的貢獻(xiàn)：組長(zhǎng)：原浩參編專家：江翔宇史宇航邢海韜審校人員及其他貢獻(xiàn)者：方婷張?jiān)獝疒w晨曦賀志生研究協(xié)調(diào)員：高健凱感謝以下單位的支持與貢獻(xiàn)：北京天融信網(wǎng)絡(luò)安全技術(shù)有限公司華為技術(shù)有限公司(以上排名不分先后)6序言在數(shù)字化浪潮席卷全球的今天，人工智能(AI)作為推動(dòng)社會(huì)進(jìn)步和經(jīng)濟(jì)發(fā)展的關(guān)鍵技術(shù)，正以前所未有的速度和規(guī)模滲透到我們生活的方方面面。從智能制造到智慧醫(yī)療，從金融科技到教育革新，AI的應(yīng)用正逐步重塑著我們的世界。對(duì)當(dāng)前的人工智能熱潮是否和采取何種監(jiān)管，各主要國(guó)家和地區(qū)的政策法律有共性之處，也有各自的地緣、文化、哲學(xué)倫理等因素相互作用而產(chǎn)生的差異?；ビ袇⒄?、借鑒的原則、方法和進(jìn)路比較，對(duì)消除智能鴻溝、提升全球人工智能的治理水平基準(zhǔn)無疑具有重要意義，這也是CSA作為中立的國(guó)際組織，在跨國(guó)跨區(qū)域的法治、技術(shù)對(duì)比中尋求治理共識(shí)和實(shí)現(xiàn)技術(shù)普惠的初衷。本報(bào)告《中美歐人工智能治理的典型法律政策比較與通用風(fēng)險(xiǎn)治理框架適用》應(yīng)運(yùn)而生，旨在深入分析和比較中國(guó)、美國(guó)和歐盟在人工智能治理領(lǐng)域的典型法律政策，探討其在不同文化、經(jīng)濟(jì)和政治背景下的異同，并嘗試構(gòu)建一個(gè)通用的風(fēng)險(xiǎn)治理框架。報(bào)告不僅聚焦于當(dāng)前的立法成果，更著眼于未來發(fā)展趨勢(shì)，以期為全球人工智能的健康發(fā)展提供參考和啟示。報(bào)告跟蹤對(duì)比了中美歐的年度主要政策法律進(jìn)展，從風(fēng)險(xiǎn)管理的思路出發(fā)通過設(shè)定“可比較項(xiàng)”進(jìn)行了縱向比較，同時(shí)通過風(fēng)險(xiǎn)提示和控制措施映射，“回歸”到中國(guó)新近出臺(tái)的合規(guī)框架，使得對(duì)人工智能的安全治理可以實(shí)現(xiàn)一條從政策法律要求，到風(fēng)險(xiǎn)控制措施規(guī)制的可行路徑。隨著技術(shù)的不斷演進(jìn)，人工智能治理的法律政策也將隨之更新。我們期待本報(bào)告能夠激發(fā)更多的討論和思考，共同推動(dòng)構(gòu)建一個(gè)更加公正、透明、可持續(xù)的人工智能治理體系。讓我們攜手前行，在確保安全和倫理的前提下，充分利用人工智能的潛力，為全人類的福祉貢獻(xiàn)力量。李雨航Y(jié)aleLiCSA大中華區(qū)主席兼研究院院長(zhǎng)7如以1956年達(dá)特茅斯學(xué)院研究會(huì)議為標(biāo)志，人工智能至今大致有過三次快速發(fā)展的熱潮。在正處于第三次熱潮的當(dāng)下，審視既有的人工智能“歷史遺留問題”,應(yīng)對(duì)硬件架構(gòu)、算力和模型算法的深刻變革帶來的“新問題”,需要從不同國(guó)家、地區(qū)的階段性、區(qū)域性和行業(yè)性的立法、政策和規(guī)則中吸取智慧。本報(bào)告聚焦中美歐截至2024年以來對(duì)人工智能進(jìn)行階段性立法、政策的成果，通過設(shè)定不同的風(fēng)險(xiǎn)域進(jìn)行細(xì)致比對(duì)，力圖呈現(xiàn)典型國(guó)家對(duì)人工智能治理的典型做法，可以作為了解全球人工智能監(jiān)管態(tài)勢(shì)的起點(diǎn)。同時(shí)也需要注意，一方面隨著技術(shù)迭代，對(duì)人工智能的法律、倫理治理仍處于快速變化的進(jìn)程中，對(duì)風(fēng)險(xiǎn)的認(rèn)識(shí)和控制隨時(shí)可能會(huì)發(fā)生較大程度的更新；另外，目前已經(jīng)有近百國(guó)家、地區(qū)開始至少圍繞人工智能的某些方面進(jìn)行不同程度的監(jiān)管(或治理),但聯(lián)合國(guó)最新《為人類治理人工智能》文件又顯示在193個(gè)會(huì)員國(guó)中，只有7個(gè)國(guó)家參與了近期提出的重要人工智能治理舉措，118個(gè)會(huì)員國(guó)完全缺席1。這說明即使對(duì)人工智能的治理本身，認(rèn)識(shí)上也存在極大分歧。因此讀者在本報(bào)告基礎(chǔ)上，亦應(yīng)進(jìn)一步了解其他國(guó)家、地區(qū)，以及包括聯(lián)合國(guó)在內(nèi)的國(guó)際組織在人工智能治理方面的努力和成果，以形成對(duì)人工智能國(guó)際治理全貌的自行判斷和整體認(rèn)識(shí)。本報(bào)告主要涉及兩方面內(nèi)容，一是對(duì)中美歐典型國(guó)家、地區(qū)的人工智能立法政策進(jìn)行階段性匯總與比較分析，力圖呈現(xiàn)不同監(jiān)管關(guān)注和其形成背景；二是結(jié)合全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)2024年9月發(fā)布的《人工智能安全治理框架》——該框架可視為是對(duì)目前我國(guó)人工智能技術(shù)、模型發(fā)展中的風(fēng)險(xiǎn)控制觀念的集大成，將各國(guó)主要法律政策監(jiān)管的要求與之進(jìn)行框架層面的關(guān)聯(lián)，并尋求建立兩者之間的一種映射，以便于人工智能的從業(yè)者可以快速實(shí)現(xiàn)對(duì)監(jiān)管規(guī)則的整體判斷和匹配，為相關(guān)活動(dòng)的開展提供符合合規(guī)要求的依據(jù)參考。二、中國(guó)人工智能法律政策2017年7月8日，國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》(以下簡(jiǎn)稱“《規(guī)劃》”),系我國(guó)首次以頂層規(guī)劃的形式布局人工智能發(fā)展戰(zhàn)略，明確了中國(guó)人8工智能技術(shù)發(fā)展的戰(zhàn)略目標(biāo)與重點(diǎn)任務(wù)，標(biāo)志著人工智能正式成為國(guó)家戰(zhàn)略層面的重點(diǎn)?！兑?guī)劃》提出了“三步走”的戰(zhàn)略目標(biāo)，明確了2020年、2025年和2030年三個(gè)時(shí)間節(jié)點(diǎn)及分步戰(zhàn)略，包括人工智能理論技術(shù)創(chuàng)新、產(chǎn)業(yè)經(jīng)濟(jì)發(fā)展、科技人才培養(yǎng)以及法律倫理規(guī)范等方面，旨在實(shí)現(xiàn)人工智能行業(yè)的持續(xù)健康發(fā)展，保證我國(guó)在人工智能領(lǐng)域的國(guó)際競(jìng)爭(zhēng)力。在《規(guī)劃》的布局與指導(dǎo)下，我國(guó)對(duì)人工智能的發(fā)展高度重視，從人工智能發(fā)展的法律及倫理規(guī)范、重點(diǎn)政策支持、技術(shù)標(biāo)準(zhǔn)化和知識(shí)產(chǎn)權(quán)保護(hù)以及安全監(jiān)管和評(píng)估等層面頒布了一系列法律政策，已然構(gòu)建了較為全面的人工智能領(lǐng)域發(fā)展與監(jiān)管框架。此外，人工智能技術(shù)的發(fā)展也離不開海量數(shù)據(jù)的投入。自2017年《網(wǎng)絡(luò)安全法》、2021年《個(gè)人信息保護(hù)法》和《數(shù)據(jù)安全法》先后出臺(tái)以來，我國(guó)逐漸形成了以“數(shù)據(jù)三法”2為核心的數(shù)據(jù)流通利用監(jiān)管體系，為人工智能發(fā)展的數(shù)據(jù)底座安全提供了法律保障。目前，我國(guó)人工智能領(lǐng)域立法呈現(xiàn)出“從特殊到一般”的特點(diǎn)。一方面，隨著人工智能技術(shù)的發(fā)展與應(yīng)用，我國(guó)近年來針對(duì)性地出臺(tái)了包括《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等在內(nèi)的一系列專門性規(guī)范，其中，2023年國(guó)家網(wǎng)信辦聯(lián)合七部門共同發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》(“《暫行辦法》”)更是全球范圍內(nèi)領(lǐng)先的對(duì)生成式人工智能進(jìn)行規(guī)制的立法實(shí)踐?！稌盒修k法》對(duì)生成式人工智能服務(wù)提供者的行為進(jìn)行規(guī)范，并在責(zé)任設(shè)置方面進(jìn)行了一定程度的限縮，是我國(guó)現(xiàn)階段關(guān)注和促進(jìn)人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用的集中體現(xiàn)。此外，2024年以來針對(duì)生成式人工智能訓(xùn)練數(shù)據(jù)合法合規(guī)性、典型行業(yè)應(yīng)用等問題進(jìn)行了研究，后續(xù)亦可能納入出臺(tái)的頂層設(shè)計(jì)。另一方面，我國(guó)已將人工智能領(lǐng)域的立法納入立法工作計(jì)劃。根據(jù)國(guó)務(wù)院發(fā)布的年度立法工作計(jì)劃，2023年、2024年人工智能法草案連續(xù)兩年列入國(guó)務(wù)院預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議項(xiàng)目。全國(guó)人大常委會(huì)于2023年9月發(fā)布的“十四屆全國(guó)人大常委會(huì)立法規(guī)劃"中，將“推進(jìn)科技創(chuàng)新和人工智能健康發(fā)展”的立法工作列入“第一類立法項(xiàng)目”,即“條件比較成熟、任期內(nèi)擬提請(qǐng)審議”。在全國(guó)人大常委會(huì)公布的2024年度立法工作計(jì)劃中，亦重申“網(wǎng)絡(luò)治理和人工2指《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》。9智能健康發(fā)展等方面的立法項(xiàng)目，由有關(guān)方面抓緊開展調(diào)研和起草工作，視情安排審議”。2024年7月，中國(guó)人大常委會(huì)法制工作委員會(huì)進(jìn)一步闡述了人工智能立法的思路3:一是優(yōu)先考慮靈活適用現(xiàn)有法律規(guī)則，通過法律解釋或司法解釋，解決人工智能發(fā)展過程中面臨的突出法律問題，比如涉及大模型訓(xùn)練數(shù)據(jù)的合法合規(guī)、知識(shí)產(chǎn)權(quán)合理使用規(guī)則針對(duì)人工智能的適用等方面。二是對(duì)于某些人工智能應(yīng)用的具體場(chǎng)景，可以通過授權(quán)立法的方式，讓地方在立法權(quán)限范圍內(nèi)先行先試，或者參考目前智能網(wǎng)聯(lián)汽車領(lǐng)域的試點(diǎn)做法，由國(guó)家有關(guān)部門組織示范應(yīng)用，開展試點(diǎn)。三是針對(duì)影響產(chǎn)業(yè)發(fā)展的痛點(diǎn)難點(diǎn)問題，在迫切需要法律予以規(guī)范的領(lǐng)域，堅(jiān)持“小快靈”立法原則，通過修改現(xiàn)行法律的方式解決。此外，人工智能立法也受到了中國(guó)法學(xué)界的高度重視，2024年以來有學(xué)者發(fā)布《人工智能法(學(xué)者建議稿)》、《人工智能法示范法》等，為我國(guó)今后的人工智能正式立法提供以下基于《規(guī)劃》的思路和近年來我國(guó)在人工智能領(lǐng)域出臺(tái)的主要法律政策，從四個(gè)方面簡(jiǎn)要分析歸納：(一)法律及倫理規(guī)范人工智能，倫理先行。2018年10月30日，習(xí)近平總書記在主持中共中央政治局第九次集體學(xué)習(xí)時(shí)，指出要“加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”。2024年7月4日世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議上發(fā)表的《人工智能全球治理上海宣言》亦明確，我們要“推動(dòng)制定和采納具有廣泛國(guó)際共識(shí)的人工智能的倫理指南與規(guī)范，引導(dǎo)人工智能技術(shù)的健康發(fā)展，防止其被誤用、濫用或惡用”。目前，我國(guó)在人工智能技術(shù)倫理領(lǐng)域出臺(tái)的相關(guān)政策及規(guī)范主要包括以下內(nèi)容(見表格),其中2023年頒布的《科技倫理審查辦法(試行)》是我國(guó)科技倫理規(guī)制的最新實(shí)踐，對(duì)從事人工智能等科技活動(dòng)的單位提出了具體的倫理審查要求。3《中國(guó)人工智能立法怎么走?》,/rain/a/20240711A0919000發(fā)布時(shí)間國(guó)家新一代人工智能治理專2019年6月17日《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南一人工智員會(huì)2021年1月5日國(guó)家新一代人工智能治理專2021年9月25日中共中央辦公廳、國(guó)務(wù)院辦公廳2022年3月20日科技部等十部門2023年9月7日(二)重點(diǎn)政策支持《規(guī)劃》指出，要完善支持人工智能發(fā)展的重點(diǎn)政策。具體包括財(cái)稅優(yōu)惠、數(shù)據(jù)開放等一系列適應(yīng)人工智能行業(yè)發(fā)展的政策體系，這些政策一方面能夠?yàn)槿斯ぶ悄芗夹g(shù)的發(fā)展提供有力保障，另一方面對(duì)人工智能發(fā)展所可能帶來的社會(huì)問題能夠?qū)崿F(xiàn)有效應(yīng)對(duì)。隨著人工智能技術(shù)的不斷發(fā)展。目前，我國(guó)出臺(tái)的對(duì)人工智能發(fā)展的支持政策涉及稅收、教育等方面，主要包括如下內(nèi)容。發(fā)布時(shí)間工信部2017年12月13日教育部2018年4月2日《新一代人工智能產(chǎn)業(yè)創(chuàng)新重點(diǎn)任務(wù)揭榜工工信部2018年11月8日科技部2019年8月29日《關(guān)于“雙一流”建設(shè)高校促進(jìn)學(xué)科融合加2020年1月21日科技部等六部門2022年7月29日《關(guān)于支持建設(shè)新一代人工智能示范應(yīng)用場(chǎng)科技部2022年8月12日工信部2023年10月20日《關(guān)于加快傳統(tǒng)制造業(yè)轉(zhuǎn)型升級(jí)的指導(dǎo)意見》工信部等八部門2023年12月28日工信部等七部門2024年1月18日(三)技術(shù)標(biāo)準(zhǔn)化和知識(shí)產(chǎn)權(quán)保護(hù)人工智能的發(fā)展離不開技術(shù)標(biāo)準(zhǔn)的統(tǒng)一與知識(shí)產(chǎn)權(quán)的保護(hù)。《規(guī)劃》指出，要“鼓勵(lì)人工智能企業(yè)參與或主導(dǎo)制定國(guó)際標(biāo)準(zhǔn)，以技術(shù)標(biāo)準(zhǔn)‘走出去’帶動(dòng)人工智能產(chǎn)品和服務(wù)在海外推廣應(yīng)用。加強(qiáng)人工智能領(lǐng)域的知識(shí)產(chǎn)權(quán)保護(hù)，健全人工智能領(lǐng)域技術(shù)創(chuàng)新、專利保護(hù)與標(biāo)準(zhǔn)化互動(dòng)支撐機(jī)制，促進(jìn)人工智能創(chuàng)新成果的知識(shí)產(chǎn)權(quán)化”。目前我國(guó)正不斷完善人工智能領(lǐng)域的技術(shù)標(biāo)準(zhǔn)，并通過司法實(shí)踐探索人工智能技術(shù)相關(guān)知識(shí)產(chǎn)權(quán)保護(hù)規(guī)則。其中，關(guān)于人工智能領(lǐng)域的技術(shù)標(biāo)準(zhǔn)，我國(guó)主要頒布了以下政策及標(biāo)準(zhǔn)，其中近期發(fā)布的《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南(2024版)》指出，到2026年，我國(guó)要“新制定國(guó)家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)50項(xiàng)以上"、“參與制定國(guó)際標(biāo)準(zhǔn)20項(xiàng)以上，促進(jìn)人工智能產(chǎn)業(yè)全球化發(fā)展”。發(fā)布時(shí)間國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)等五部門2020年7月27日市場(chǎng)監(jiān)督管理總局等兩部門2022年10月12日網(wǎng)信辦等三部門2024年5月29日《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指工信部等四部門2024年6月5日(四)安全監(jiān)管和評(píng)估我國(guó)在多方布局人工智能技術(shù)發(fā)展的同時(shí)，同樣重視對(duì)人工智能領(lǐng)域相關(guān)算法、技術(shù)的安全監(jiān)管與評(píng)估，尤其是涉及國(guó)家安全、社會(huì)穩(wěn)定以及個(gè)人權(quán)益等方面?！兑?guī)劃》同樣要求應(yīng)建立健全公開透明的人工智能監(jiān)管體系，促進(jìn)人工智能行業(yè)和企業(yè)自律。尤其是在生成式人工智能技術(shù)快速發(fā)展并被廣泛應(yīng)用的背景下，我國(guó)更是率先出臺(tái)了對(duì)生成式人工智能服務(wù)管理的專門規(guī)定。目前，我國(guó)在人工智能安全監(jiān)管與評(píng)估領(lǐng)域出臺(tái)的主要法律政策包括：發(fā)布時(shí)間的指導(dǎo)意見》網(wǎng)信辦等九部門2021年9月17日網(wǎng)信辦等四部門2021年12月31日網(wǎng)信辦等三部門2022年11月25日《關(guān)于深入推進(jìn)跨部門綜合監(jiān)管的指導(dǎo)意國(guó)務(wù)院辦公廳2023年1月13日網(wǎng)信辦等七部門2023年7月10日《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——生成式人工智能服務(wù)內(nèi)容標(biāo)識(shí)方法》2023年8月25日2024年2月29日《信息安全技術(shù)生成式人工智能數(shù)據(jù)標(biāo)注安全規(guī)范》(征求意見稿)2024年4月3日《信息安全技術(shù)生成式人工智能預(yù)訓(xùn)練和2024年4月3日三、美國(guó)人工智能法律政策(一)美國(guó)人工智能監(jiān)管法律政策概述美國(guó)目前尚未有聯(lián)邦層面的人工智能監(jiān)管立法，當(dāng)前主要通過行政部門行政命令的形式，輔以各州自行立法加特定領(lǐng)域立法的方式對(duì)人工智能進(jìn)行監(jiān)管。其中拜登總統(tǒng)簽署的《安全、可靠、可信地開發(fā)和使用人工智能行政令》明確了美國(guó)政府對(duì)待人工智能的政策法制框架。此外，白宮科技政策辦公室在2022年10月發(fā)布《人工智能權(quán)利法案藍(lán)圖》,旨在保護(hù)公眾在人工智能時(shí)代的權(quán)利，并確保自動(dòng)化系統(tǒng)在設(shè)計(jì)、使用和部署過程中能夠符合民主價(jià)值觀，保護(hù)公民權(quán)利、自由和隱私。以上兩份文件可以視為美國(guó)對(duì)人工智能監(jiān)管的基本框架與路線圖。美國(guó)人工智能相關(guān)法律政策主要包括：發(fā)布時(shí)間2019年4月4《生成式人工智能服務(wù)管理暫行辦法》以“暫行”形式體現(xiàn)出短期立法的特征，說明亦將隨技術(shù)和認(rèn)識(shí)深入，有快速調(diào)整的可能。要求美國(guó)商務(wù)部和聯(lián)邦貿(mào)易委員會(huì)(Federal并與美國(guó)進(jìn)行比較；評(píng)估供應(yīng)鏈風(fēng)險(xiǎn)以及如何解決這些風(fēng)險(xiǎn)。2020年5月強(qiáng)調(diào)要進(jìn)一步強(qiáng)化和協(xié)調(diào)國(guó)防、情報(bào)界和民用聯(lián)邦機(jī)構(gòu)之間的人工智能研發(fā)活動(dòng)；設(shè)立國(guó)家人工智能倡議辦公室，承擔(dān)“監(jiān)督和實(shí)施美國(guó)國(guó)家人工智能戰(zhàn)略”等職責(zé)2021年1月圖》設(shè)計(jì)、使用和部署自動(dòng)化系統(tǒng)的五項(xiàng)原則，從2022年10月要求特定的聯(lián)邦機(jī)構(gòu)采取措施促進(jìn)人工智能的使用2022年12月發(fā)和使用人工智能行政護(hù)美國(guó)人的隱私，促進(jìn)公平和公民權(quán)利，維護(hù)消費(fèi)者和工人的利益，促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)2023年10月內(nèi)容來源保護(hù)和完整性要求為標(biāo)記、驗(yàn)證和檢測(cè)人工智能生成的內(nèi)容制定新的聯(lián)邦透明度準(zhǔn)則，保護(hù)記者、演員和并追究違法者濫用權(quán)利的責(zé)任2024年7月2024年6月(二)典型法律文件對(duì)人工智能風(fēng)險(xiǎn)問題的提出與回應(yīng)《安全、可靠、可信地開發(fā)和使用人工智能行政令》將人工智能定義為：一種基于機(jī)器的系統(tǒng)，可以針對(duì)一組人類定義的目標(biāo)做出預(yù)測(cè)、推薦或決策，從而影響真實(shí)或虛擬環(huán)境。人工智能系統(tǒng)使用機(jī)器和人類輸入來感知真實(shí)和虛擬環(huán)境，通過自動(dòng)化方式分析這些感知，并使用模型推理來制定信息或行動(dòng)的選項(xiàng)。美國(guó)對(duì)人工智能的監(jiān)管，強(qiáng)調(diào)安全保障、促進(jìn)創(chuàng)新、公平與反歧視、隱私保護(hù)、可解釋與透明度、保護(hù)消費(fèi)者利益、保護(hù)本土就業(yè)崗位等基本原則，并關(guān)注人工智能對(duì)人類的替代與控制。在監(jiān)管思路上，美國(guó)重視通過“紅隊(duì)測(cè)試”、標(biāo)準(zhǔn)化與技術(shù)評(píng)估、公眾參與等方式來確保人工智能系統(tǒng)的安全。《安全、可靠、可信地開發(fā)和使用人工智能行政令》提出美國(guó)要解決新興知識(shí)產(chǎn)權(quán)問題，保護(hù)發(fā)明者和創(chuàng)造者的權(quán)益，通過立法和政策調(diào)整應(yīng)對(duì)人工智能技術(shù)帶來的知識(shí)產(chǎn)權(quán)挑戰(zhàn)，并支持創(chuàng)新和公平競(jìng)爭(zhēng)。美國(guó)專利商標(biāo)局(USPTO)的相關(guān)指南和政策，明確了人工智能在發(fā)明過程中的角色，以及如何處理人工智能生成的發(fā)明，以確保人工智能系統(tǒng)的發(fā)明者能夠獲得專利保護(hù)。此外，《人工智能權(quán)利法案藍(lán)圖》強(qiáng)調(diào)了防止大公司利用市場(chǎng)地位對(duì)小企業(yè)和初創(chuàng)公司造成不公平競(jìng)爭(zhēng)，確保所有市場(chǎng)參與者都有公平的機(jī)會(huì)利用人工智能技術(shù)進(jìn)行創(chuàng)新。美國(guó)對(duì)人工智能系統(tǒng)可能涉及的人格權(quán)保護(hù)，主要從數(shù)據(jù)隱私的角度入手。但當(dāng)前美國(guó)并沒有一部聯(lián)邦層面?zhèn)€人信息保護(hù)的立法，需要在部署人工智能時(shí)參考各州、各行業(yè)對(duì)個(gè)人信息保護(hù)的立法規(guī)定。此外，《人工智能權(quán)利法案藍(lán)圖》中，專門強(qiáng)調(diào)了透明性和可解釋性，要求人工智能系統(tǒng)的決策過程應(yīng)透明和可解釋，讓用戶理解系統(tǒng)的工作原理和決策依據(jù)?！度斯ぶ悄軝?quán)利法案藍(lán)圖》還要求人們能夠免于算法的歧視，要求防止基于種族、性別、年齡等的算法歧視，確保所有人平等享有機(jī)會(huì)和權(quán)利。美國(guó)對(duì)透明度的細(xì)化要求主要通過標(biāo)準(zhǔn)文件落實(shí)，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院公開征求意見的(NIST)的NISTAl600-1GenerativeAlProfile文件是《安全、可靠、可信地開發(fā)和使用人工智能行政令》的配套標(biāo)準(zhǔn)，擬使用可解釋的機(jī)器學(xué)習(xí)技術(shù)，使人工智能過程和結(jié)果更透明，便于理解決策是如何做出的。并應(yīng)用透明度工具如數(shù)據(jù)表、數(shù)據(jù)營(yíng)養(yǎng)標(biāo)簽和模型卡，記錄解釋和驗(yàn)證信息。在審查時(shí)，建議考慮透明度工件如影響評(píng)估、系統(tǒng)卡、模型卡和傳統(tǒng)風(fēng)險(xiǎn)管理文檔，作為組織決策的一部分?！栋踩?、可靠、可信地開發(fā)和使用人工智能行政令》強(qiáng)調(diào)識(shí)別和標(biāo)記人工智能生成的合成內(nèi)容的重要性，并提出在內(nèi)容中使用水印等技術(shù)來標(biāo)記合成內(nèi)容，并計(jì)劃確定相關(guān)的標(biāo)準(zhǔn)、工具、方法和實(shí)踐。為了推動(dòng)人工智能創(chuàng)新，白宮要求國(guó)家科學(xué)基金會(huì)(NSF)啟動(dòng)一個(gè)試點(diǎn)項(xiàng)目，實(shí)施國(guó)家人工智能研究資源(NAIRR),整合計(jì)算、數(shù)據(jù)、模型和訓(xùn)練資源，以支持人工智能相關(guān)的研究與開發(fā)。并且要求小企業(yè)管理局(SBA)優(yōu)先分配區(qū)域創(chuàng)新集群計(jì)劃資金，用于支持人工智能創(chuàng)新與商業(yè)化的規(guī)劃活動(dòng)。此外，還將評(píng)估現(xiàn)有計(jì)劃的資格標(biāo)準(zhǔn)，以更好地支持小企業(yè)在采用人工智能方面的費(fèi)用。為了吸引全球人工智能人才，美國(guó)政府簡(jiǎn)化簽證申請(qǐng)?zhí)幚頃r(shí)間，確保有足夠的簽證預(yù)約數(shù)量以吸引非公民在美國(guó)從事人工智能相關(guān)的工作、學(xué)習(xí)或研究。關(guān)于人工智能倫理，《人工智能權(quán)利法案藍(lán)圖》特別強(qiáng)調(diào)了公平、公正、透明和負(fù)責(zé)的人工智能開發(fā)和使用的原則。主要關(guān)注點(diǎn)包括避免算法歧視、保護(hù)隱私、確保系統(tǒng)的透明度和提供人性化的選擇。文件中指出，自動(dòng)化系統(tǒng)不應(yīng)基于種族、性別、宗教等進(jìn)行不公正的區(qū)別對(duì)待。自動(dòng)系統(tǒng)應(yīng)在使用前進(jìn)行測(cè)試，以確保其沒有算法歧視，并設(shè)計(jì)以確保廣義上的公平。還提到人性化選擇的必要性，用戶應(yīng)有權(quán)選擇人工替代方案，并能夠在自動(dòng)系統(tǒng)出錯(cuò)時(shí)快速獲得人性化的解決方案。(三)監(jiān)管機(jī)構(gòu)設(shè)施和體現(xiàn)的分散性立法特點(diǎn)和分歧美國(guó)對(duì)人工智能進(jìn)行多頭監(jiān)管，其中白宮科技政策辦公室在制定國(guó)家人工智能政策方面發(fā)揮領(lǐng)導(dǎo)作用，協(xié)調(diào)各聯(lián)邦機(jī)構(gòu)的人工智能活動(dòng)和政策。國(guó)土安全部負(fù)責(zé)評(píng)估人工智能對(duì)國(guó)家安全的潛在威脅，并制定應(yīng)對(duì)措施以確保安全。聯(lián)邦通信委員會(huì)監(jiān)管人工智能在通信領(lǐng)域的應(yīng)用，特別是涉及無線通信和廣播的人工智能技術(shù)。聯(lián)邦貿(mào)易委員會(huì)負(fù)責(zé)保護(hù)消費(fèi)者免受不公平或欺詐性商業(yè)行為的侵害，這包括監(jiān)督人工智能在商業(yè)應(yīng)用中的使用，確保其公平性和透明度，并對(duì)使用人工智能技術(shù)進(jìn)行不公平或欺騙性行為的公司采取執(zhí)法行動(dòng)。商務(wù)部通過其下屬的國(guó)家電信和信息管理局(NTIA)和其他部門，對(duì)人工智能技術(shù)的發(fā)展和使用進(jìn)行監(jiān)督。NIST在人工智能技術(shù)標(biāo)準(zhǔn)的制定和風(fēng)險(xiǎn)管理框架的開發(fā)中起著關(guān)鍵作用。其任務(wù)是制定行業(yè)標(biāo)準(zhǔn)，確保人工智能技術(shù)的安全性和可靠性。值得注意的是，除了在聯(lián)邦和州層面存在法律政策進(jìn)度異步的情況外，不同的州在人工智能的法律政策方面亦存在較大差異。典型事例是2024年10月，由于科技界的強(qiáng)烈反彈，加州州長(zhǎng)紐森否決了備受關(guān)注的人工智能AI安全法案 (SB1047)。其背后的科技與法律博弈的邏輯就在硅谷公司普遍認(rèn)為：過于干預(yù)了仍處于發(fā)展階段的AI技術(shù)，可能抑制創(chuàng)新?？傊绹?guó)基于在發(fā)展方面處于優(yōu)勢(shì)地位，技術(shù)水平和研發(fā)能力較為領(lǐng)先的發(fā)展地位，對(duì)人工智能的監(jiān)管法規(guī)要求維持和強(qiáng)化技術(shù)優(yōu)勢(shì)地位，同時(shí)強(qiáng)調(diào)安全性、透明度、公平性和非歧視，要求標(biāo)識(shí)和認(rèn)證人工智能生成內(nèi)容，保護(hù)消費(fèi)者隱私和數(shù)據(jù)安全。法規(guī)要求高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行定期審查和信息披露，多部門協(xié)作制定和執(zhí)行監(jiān)管政策，確保人工智能技術(shù)的負(fù)責(zé)任開發(fā)和使用，同時(shí)促進(jìn)技術(shù)創(chuàng)新和保障國(guó)家安全。四、歐盟人工智能法律政策(一)歐盟的典型立法歐盟立法的主要?jiǎng)右蚴菫榱藨?yīng)對(duì)人工智能技術(shù)帶來的風(fēng)險(xiǎn)和挑戰(zhàn)，同時(shí)促進(jìn)技術(shù)創(chuàng)新和經(jīng)濟(jì)發(fā)展。2019年4月，歐盟委員會(huì)出臺(tái)《人工智能倫理準(zhǔn)則》,確定了人工智能治理的尊重人類尊嚴(yán)、防止傷害、公平和可解釋性四項(xiàng)倫理原則，并提出了實(shí)現(xiàn)這些原則的七項(xiàng)要求，即：尊重人類自主權(quán)、預(yù)防傷害、公平性和非歧視性、透明度和可解釋性、隱私和數(shù)據(jù)治理、社會(huì)和環(huán)境福祉、問責(zé)機(jī)制。歐盟希望通過立法建立一個(gè)統(tǒng)一的法律框架，確保人工智能技術(shù)的應(yīng)用符合歐盟的價(jià)值觀和基本原則。2024年5月21日，歐盟理事會(huì)正式批準(zhǔn)了全球首部《人工智能法案》,該法案旨在協(xié)調(diào)人工智能監(jiān)管規(guī)則，法案在經(jīng)歐盟議會(huì)和歐盟理事會(huì)主席簽署后，將于近日在歐盟官方公報(bào)上發(fā)布，并在公布20天后生效。歐盟《人工智能法案》的正式通過標(biāo)志著全球人工智能領(lǐng)域監(jiān)管邁入全新時(shí)代。發(fā)布時(shí)間對(duì)基于人工智能控制的機(jī)器人，提出其使用的責(zé)任歸屬、倫理規(guī)則及對(duì)人類的傷害賠償?shù)缺O(jiān)管原則，呼吁歐盟委員會(huì)評(píng)估人工智能的影響2016年5月的8項(xiàng)具體任務(wù)：完善戰(zhàn)略布局、加強(qiáng)多元投入、促進(jìn)產(chǎn)研結(jié)合、培養(yǎng)專業(yè)人才、推動(dòng)數(shù)據(jù)作2018年12月則》2019年4月《人工智能白皮書：通往卓越與信提出以監(jiān)管和投資為導(dǎo)向，實(shí)現(xiàn)促進(jìn)人工智能管框架應(yīng)以風(fēng)險(xiǎn)為導(dǎo)向，基于風(fēng)險(xiǎn)評(píng)估對(duì)人工智能應(yīng)用分級(jí)分類，采取不同的事前規(guī)制2020年2月工智能系統(tǒng)分級(jí)，并規(guī)定了人工智能參與者的義務(wù)，旨在建立一套統(tǒng)一的規(guī)范和監(jiān)管框架，以確保人工智能技術(shù)的發(fā)展和應(yīng)用能夠遵循公平、透明和可信的原則2024年5月主要有如下6個(gè)角色會(huì)受到《人工智能法案》的影響，分別是：Provider提representative授權(quán)代表、ProductmanufactureProvider提供者：開發(fā)人工智能系統(tǒng)或通用人工智能模型(或已開發(fā)人工智能系統(tǒng)或通用人工智能模型)并將其投放市場(chǎng)或以其自己的名稱或商標(biāo)投入使用的自然人或法人、公共當(dāng)局、機(jī)構(gòu)或其他機(jī)構(gòu)，無論是付費(fèi)還是免費(fèi)；Deployer部署者：在其權(quán)力范圍內(nèi)使用人工智能系統(tǒng)的任何自然人或法人、公共當(dāng)局、機(jī)構(gòu)或其他機(jī)構(gòu)，但用于個(gè)人非專業(yè)活動(dòng)的人工智能系統(tǒng)除外；Distributor分發(fā)者：供應(yīng)鏈中除提供者或進(jìn)口者以外的任何將人工智能系統(tǒng)投放到聯(lián)盟市場(chǎng)的自然人或法人；Importer進(jìn)口者：位于或設(shè)立在聯(lián)盟內(nèi)的任何自然人或法人，將帶有在聯(lián)盟以外設(shè)立的自然人或法人的名稱或商標(biāo)的人工智能系統(tǒng)投放市場(chǎng)；Authorisedrepresentative授權(quán)代表：位于或設(shè)立在聯(lián)盟內(nèi)的任何自然人或法人，已收到并接受人工智能系統(tǒng)或通用人工智能模型提供者的書面授權(quán)，分別代表其履行和執(zhí)行本法規(guī)規(guī)定的義務(wù)和程序。Productmanufacturer產(chǎn)品制造商：將人工智能系統(tǒng)與其產(chǎn)品一起以自己的名稱或商標(biāo)投放市場(chǎng)或投入使用；(二)法案對(duì)人工智能系統(tǒng)的監(jiān)管要求鑒于人工智能解決方案和應(yīng)用范圍廣泛且不斷變化，歐盟《人工智能法案》對(duì)人工智能的定義同樣廣泛：基本上，任何在歐盟部署的基于數(shù)據(jù)的驅(qū)動(dòng)系統(tǒng)，無論其開發(fā)地點(diǎn)或數(shù)據(jù)來源如何，都將受其監(jiān)管。而《人工智能法案》的獨(dú)特之處在于其分級(jí)的體系設(shè)計(jì)以及基于相對(duì)風(fēng)險(xiǎn)的差異化義務(wù)設(shè)定。法案共將人工智能系統(tǒng)風(fēng)險(xiǎn)類型分為4類：一、不可接受的風(fēng)險(xiǎn)類型；二、高風(fēng)險(xiǎn)類型；三、有限風(fēng)險(xiǎn)或輕微風(fēng)險(xiǎn)類型和四、低風(fēng)險(xiǎn)類型。每一類風(fēng)險(xiǎn)類型的管理要求如下：1、禁用不可接受的風(fēng)險(xiǎn)類型的人工智能系統(tǒng)被認(rèn)為對(duì)人類構(gòu)成威脅的人工智能系統(tǒng)屬于不可接受風(fēng)險(xiǎn)的類別。例如：社會(huì)評(píng)分系統(tǒng)、旨在操縱兒童或其他弱勢(shì)群體的系統(tǒng)、實(shí)時(shí)遠(yuǎn)程生物特征識(shí)別的系統(tǒng)。以上這些系統(tǒng)是被禁用的。2、重點(diǎn)監(jiān)管高風(fēng)險(xiǎn)類型人工智能系統(tǒng)對(duì)安全或基本權(quán)利產(chǎn)生負(fù)面影響的人工智能系統(tǒng)屬于高風(fēng)險(xiǎn)。高風(fēng)險(xiǎn)可分為兩個(gè)子類別：(1)人工智能系統(tǒng)用于歐盟產(chǎn)品安全法規(guī)范圍內(nèi)的產(chǎn)品，包括玩具、航空、汽車、醫(yī)療設(shè)備和電梯等。(2)需要在歐盟數(shù)據(jù)庫(kù)中注冊(cè)的八個(gè)領(lǐng)域的人工智能系統(tǒng)，包括：自然人的生物特征識(shí)別和分類；關(guān)鍵基礎(chǔ)設(shè)施的管理和運(yùn)營(yíng)；教育和職業(yè)培訓(xùn)、就業(yè)、工人管理和自主創(chuàng)業(yè)；獲得和享受基本私人服務(wù)、公共服務(wù)及福利；執(zhí)法；移民、庇護(hù)和邊境管制管理；協(xié)助法律解釋和法律適用。對(duì)于高風(fēng)險(xiǎn)系統(tǒng)，必須在上市前和整個(gè)生命周期內(nèi)進(jìn)行評(píng)估。3、有限風(fēng)險(xiǎn)或輕微風(fēng)險(xiǎn)類型的人工智能系統(tǒng)，有較高自由度有限風(fēng)險(xiǎn)類型的人工智能系統(tǒng)，是指使用者在應(yīng)用系統(tǒng)時(shí)能夠意識(shí)到在與人工智能互動(dòng)，且使用者仍然能以自己的判斷做出明智的決定。該風(fēng)險(xiǎn)類型的人工智能系統(tǒng)在歐盟法案的監(jiān)管框架下有較高的自由度，投放市場(chǎng)或投入使用前無需取得特殊的牌照、認(rèn)證或履行繁雜的報(bào)告、監(jiān)督、記錄留存等義務(wù)。當(dāng)前市場(chǎng)上常見的聊天機(jī)器人、文字和圖片識(shí)別及生成軟件、人工智能伴侶等大多屬于此一風(fēng)險(xiǎn)類型。4、低風(fēng)險(xiǎn)類型的人工智能系統(tǒng)，沒有特殊的審查制度未歸類在不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)或有限風(fēng)險(xiǎn)類型的其他人工智能系統(tǒng)，都屬于輕微風(fēng)險(xiǎn)類型。該風(fēng)險(xiǎn)類型的人工智能系統(tǒng)沒有特殊的干預(yù)和審查制度，但提供者可自愿建立各行業(yè)的行為準(zhǔn)則。此外，《人工智能法案》對(duì)于高風(fēng)險(xiǎn)系統(tǒng)提出了合格評(píng)定(CA)的要求。合格評(píng)定的目標(biāo)是驗(yàn)證高風(fēng)險(xiǎn)系統(tǒng)是否符合《人工智能法》中規(guī)定的七項(xiàng)要求，即風(fēng)險(xiǎn)管理、數(shù)據(jù)治理、技術(shù)文檔、記錄保存、透明度義務(wù)、人工監(jiān)督以及準(zhǔn)確性、穩(wěn)健性和網(wǎng)絡(luò)安全。除非另有規(guī)定，應(yīng)在人工智能系統(tǒng)投入使用或進(jìn)入市場(chǎng)之前滿足所有這些要求。一旦系統(tǒng)投入使用，供應(yīng)商還必須確保在系統(tǒng)的整個(gè)生命周期內(nèi)持續(xù)合規(guī)。(三)合規(guī)處罰與監(jiān)管要求針對(duì)有可能出現(xiàn)的違法行為，法案規(guī)定了較大的處罰力度。根據(jù)違法行為的嚴(yán)重程度，法案設(shè)計(jì)了階梯狀的處罰條款：例如，違反禁止的人工智能實(shí)踐規(guī)定，將被處以最高3500萬歐元的行政罰款，如果違法者是企業(yè)，則最高罰款金額為其上一財(cái)年全球年?duì)I業(yè)額的7%,以較高者為準(zhǔn)。值得注意的是，在每一級(jí)的處罰階梯上，法案都規(guī)定處罰實(shí)際金額將在固定金額和營(yíng)業(yè)額比例金額中取其高者。按照法案“就高不就低”的規(guī)定，企業(yè)的違法成本異常高昂。(四)實(shí)施展望法案要求所有高風(fēng)險(xiǎn)人工智能系統(tǒng)必須進(jìn)行基本權(quán)利影響評(píng)估，并在公共數(shù)據(jù)庫(kù)中注冊(cè)。同時(shí)，法案通過設(shè)立人工智能監(jiān)管沙盒，鼓勵(lì)創(chuàng)新技術(shù)的開發(fā)和測(cè)試，確保這些創(chuàng)新在安全和可控的環(huán)境中進(jìn)行。法案還設(shè)立了多個(gè)監(jiān)管機(jī)構(gòu)，以確保法律的實(shí)施和遵守?！度斯ぶ悄芊ò浮肪哂杏蛲庑Я?。它適用于任何在歐盟內(nèi)部運(yùn)營(yíng)人工智能系統(tǒng)的公司以及位于歐盟以外的公司。五、主要比較維度與框架映射基于國(guó)別監(jiān)管政策、法律體現(xiàn)的不同側(cè)重和關(guān)注，本報(bào)告嘗試以中國(guó)《生成式人工智能服務(wù)管理暫行辦法》為基準(zhǔn)，比較中美歐典型法律、政策文件在人工智能法律質(zhì)量(立法和政策強(qiáng)度、彈性)方面的可能涉及或觸發(fā)的21個(gè)維度，并投射到全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)2024年9月發(fā)布的《人工智能安全治理框架》(“框架“)的26個(gè)風(fēng)險(xiǎn)控制項(xiàng)下。比較項(xiàng)中國(guó)美國(guó)依據(jù)生成式人工智能服務(wù)管安全、可靠、可信地開發(fā)和使用人工智能行政令1原則發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合以人為本和支持八項(xiàng)原則：人工智能必須安全可靠、促進(jìn)負(fù)責(zé)任的創(chuàng)使美國(guó)在人工智能和使用人工智能需包容審慎、確保安全；風(fēng)險(xiǎn)導(dǎo)向、敏捷治理；技管結(jié)合、協(xié)同應(yīng)對(duì)；開放合作、要承諾支持美國(guó)工人、致力于促進(jìn)公平和公民權(quán)利、保護(hù)公眾(消費(fèi)者)利益、保護(hù)隱私與公民自由、管理聯(lián)邦政府使用的人工智能風(fēng)險(xiǎn)，提高監(jiān)管、治理和負(fù)責(zé)任的使用的能力、引領(lǐng)全球社會(huì)、經(jīng)濟(jì)2定義指具有文本、圖片、音頻、生成能力的模型及相關(guān)(人工智能系統(tǒng))基于機(jī)器的系統(tǒng)，設(shè)計(jì)為以不同程度的自主性運(yùn)行，在部署后可能表為了明確或隱含的目標(biāo)，從其接收的輸入中推斷如何生成可影響物理或虛擬環(huán)境的輸出，如預(yù)測(cè)、內(nèi)容、建議或決定其針對(duì)給定的一組人類定義的目標(biāo)，做出預(yù)測(cè)、建議或影響真實(shí)或虛擬環(huán)境決策。人工智能系統(tǒng)使用基于機(jī)器和人類輸入感知真實(shí)和虛擬環(huán)境；通過自動(dòng)化分析將感知抽象為模型；并使用模型推理制定信息或行動(dòng)選擇；并進(jìn)一步定義了模型和系統(tǒng)，以及生成式人工智能3包容審慎和分類分級(jí)監(jiān)管基于風(fēng)險(xiǎn)分級(jí)和風(fēng)險(xiǎn)控制管理，特別是強(qiáng)制紅隊(duì)測(cè)試等；行政先方向，并要求通估人工智能的雙重4核心價(jià)值觀歐盟憲章的價(jià)值觀國(guó)家安全、公共健5監(jiān)管機(jī)構(gòu)網(wǎng)信、工信、公安、科技、發(fā)改等人工智能辦公室、的歐洲人工智能委員會(huì)、科學(xué)小組、咨詢論壇；成白宮人工智能委員會(huì)，協(xié)調(diào)既有的主要聯(lián)邦政府部門的員國(guó)至少一個(gè)通知機(jī)關(guān)和至少一個(gè)市場(chǎng)監(jiān)督管理6界測(cè)試已有地方和若干行業(yè)開展的監(jiān)管沙盒先行先試的實(shí)踐至少一個(gè)國(guó)家級(jí)人工智能監(jiān)管沙盒，規(guī)定了監(jiān)管目以及透明度、豁免等條件；規(guī)定進(jìn)行真實(shí)世界測(cè)試的條件和數(shù)據(jù)保護(hù)同意、檢查、數(shù)據(jù)保護(hù)等)管”或先行施編號(hào)風(fēng)險(xiǎn)項(xiàng)生成式人工智能服務(wù)管安全、可靠、可信地開發(fā)和使用人工智能行政令人工智能安全治理1內(nèi)容安全(禁止的活動(dòng))國(guó)家、社會(huì)公合法權(quán)益(十不準(zhǔn))踐進(jìn)行限制(其他基于行政令原則范圍的國(guó)家安全、偏見、歧視等；對(duì)外國(guó)惡意網(wǎng)絡(luò)行為者使用美國(guó)基礎(chǔ)設(shè)施即服務(wù)(IAAS)產(chǎn)品的禁令(如立法程序中的ENFORCE法安全風(fēng)險(xiǎn)2計(jì)、訓(xùn)練數(shù)據(jù)效措施防止產(chǎn)生民族、信康等歧視高風(fēng)險(xiǎn)人工智能系統(tǒng)應(yīng)審查可能偏差可能……,或?qū)е職W盟法律所圍繞算法歧視解決涵蓋侵犯自由和種福利、用工、租賃育等領(lǐng)域歧視問題；已制定《關(guān)于打擊自動(dòng)化系統(tǒng)中的歧視和偏見的執(zhí)法工作的聯(lián)合聲明》;科羅拉多州頒布SB205法案專門用以識(shí)別、記錄和減輕算法歧視風(fēng)險(xiǎn)風(fēng)險(xiǎn)4.1.13知識(shí)產(chǎn)權(quán)應(yīng)尊重知識(shí)秘密(1)不影響歐盟和保護(hù)知識(shí)產(chǎn)權(quán)、商業(yè)秘密規(guī)定；(2)更新歐盟版(1)發(fā)布指南以解決人工智能的專利發(fā)明人、發(fā)明權(quán)問題；(2)提供解決作品的利用和保護(hù)的版權(quán)法建議訓(xùn)練數(shù)據(jù)含不當(dāng)內(nèi)容、被"投毒”風(fēng)險(xiǎn)4.1.24/反不正當(dāng)競(jìng)爭(zhēng)不得利用算臺(tái)等優(yōu)勢(shì)，實(shí)正當(dāng)競(jìng)爭(zhēng)行為定的版權(quán)標(biāo)準(zhǔn)在歐盟市場(chǎng)上獲得競(jìng)爭(zhēng)優(yōu)勢(shì)；數(shù)字市場(chǎng)法等亦適用小企業(yè)創(chuàng)新和商業(yè)化；獎(jiǎng)金、貸款和基金等經(jīng)濟(jì)社會(huì)安全風(fēng)險(xiǎn)4.2.2(b)5不得侵害他人肖像權(quán)、名明確歐盟憲章下的基本權(quán)利；別的個(gè)人數(shù)據(jù)，如使用方面應(yīng)受到和隱私保護(hù)措施；的人工智能的倫理準(zhǔn)則》的隱私和數(shù)據(jù)治理準(zhǔn)則亦適用評(píng)估人工智能在刑事法律中的應(yīng)用(包括預(yù)測(cè)犯罪),用限制；分析和了式剝奪公民權(quán)利的社會(huì)秩序4.2.4(a)(b)6個(gè)人信息適用《個(gè)人信息保護(hù)法》(包括提供及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的保護(hù)要求繼續(xù)適數(shù)據(jù)的初始目的據(jù)的處理(如情感識(shí)別)至于禁止類風(fēng)險(xiǎn)人工智能系統(tǒng)提供者對(duì)特殊(1)通過OMB牽頭收集和使用個(gè)人信息采取措施；(2)支持相關(guān)隱私增強(qiáng)和部署(如隱私增強(qiáng)技術(shù));(3)將安全、隱私和安全使用數(shù)據(jù)風(fēng)險(xiǎn)4.1.2(a);數(shù)據(jù)泄露風(fēng)險(xiǎn)4.1.2不當(dāng)使用引發(fā)信息泄露風(fēng)險(xiǎn)請(qǐng)求等)個(gè)人數(shù)據(jù)的額外生命周期7透明度務(wù)的透明度(非強(qiáng)制性約束，對(duì)透明度無具體細(xì)明確了統(tǒng)一的透明度規(guī)則。規(guī)定高風(fēng)險(xiǎn)人工智能系統(tǒng)的設(shè)計(jì)和開發(fā)應(yīng)確保其操作具度……;增加特定人工智能系統(tǒng)的提供者和部署者的透明度義務(wù)強(qiáng)調(diào)或澄清與人工智能模型透明度相關(guān)的要求和期望，以及受監(jiān)管實(shí)體應(yīng)解釋其使用人工智能模型的能力；在包括能源部的人工智能模型評(píng)估工具臺(tái)中配備具有透明4.1.1(a)8內(nèi)容的準(zhǔn)確(非強(qiáng)制性約束)明確用于訓(xùn)練、驗(yàn)證和測(cè)試的高質(zhì)施適當(dāng)?shù)臄?shù)據(jù)治理和管理實(shí)踐；對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)，應(yīng)使用符合質(zhì)量標(biāo)準(zhǔn)的訓(xùn)練、驗(yàn)證和測(cè)試數(shù)據(jù)集風(fēng)險(xiǎn)4.1.1魯棒性弱風(fēng)險(xiǎn)4.1.1(b);輸出不可4.1.1(a)(b)9國(guó)際規(guī)則鼓勵(lì)開展國(guó)際交流與合式人工智能相關(guān)國(guó)際規(guī)《全球人工智能治理倡議》《布萊切利宣言》)(1)強(qiáng)調(diào)包括數(shù)字貿(mào)易在內(nèi)的國(guó)際貿(mào)易承諾；(2)考慮與從事人工智能的國(guó)際組織的成果對(duì)齊和可和政策應(yīng)考慮國(guó)際進(jìn)展；(3)推的國(guó)際合作作和建立強(qiáng)有力的國(guó)際框架；發(fā)布全冊(cè)；制定全球人工智能研究議程等供應(yīng)鏈安加劇社會(huì)歧視偏見、鴻溝的風(fēng)(a);社會(huì)秩序4.2.4(a)(b)(1)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；(2)涉及知識(shí)產(chǎn)基于形式符合和市后過程管理，高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者應(yīng)履的開發(fā)者應(yīng)持續(xù)向安全風(fēng)險(xiǎn)4.1.1;數(shù)據(jù)安全開發(fā)者一害他人依法享有的知識(shí)產(chǎn)權(quán)；(3)涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意情形；(4)數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)性、多樣性；(5)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)義務(wù)；(6)對(duì)使用者的輸入信息和當(dāng)依法履行保護(hù)義務(wù)；(7)應(yīng)當(dāng)在中，提供安障用戶正常使用行相應(yīng)的風(fēng)險(xiǎn)管系、合格性評(píng)估、等義務(wù)脅而采取的物理和網(wǎng)絡(luò)安全保護(hù)措施、在相關(guān)人工智能紅隊(duì)測(cè)試中的性能表現(xiàn)和加強(qiáng)整體況等；(2)境外惡意網(wǎng)絡(luò)行為者使用務(wù)(IaaS)產(chǎn)品風(fēng)險(xiǎn)報(bào)告和禁止類義務(wù)等系統(tǒng)安全網(wǎng)絡(luò)域風(fēng)險(xiǎn)4.2.1;險(xiǎn)4.2.2;加劇“信息風(fēng)險(xiǎn)4.2.3加劇社會(huì)歧視偏見、擴(kuò)大智能鴻溝的風(fēng)險(xiǎn)4.2.4(a);社會(huì)秩序(b)數(shù)據(jù)標(biāo)注制定清晰、具體、可操作的展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，抽內(nèi)容的準(zhǔn)確性；對(duì)標(biāo)注人供數(shù)據(jù)要求，說明訓(xùn)練方法和技術(shù)以及所使用的訓(xùn)練數(shù)據(jù)集，包括……標(biāo)注程序訓(xùn)練數(shù)據(jù)員進(jìn)行必要培訓(xùn)部署者義務(wù)(1)第四條觀、反歧視、質(zhì)量等);(2)生成式人工智能服務(wù)不符合法律、行高風(fēng)險(xiǎn)人工智能系統(tǒng)部署者的義務(wù)包括：(1)基于系統(tǒng)說明的正當(dāng)使用；(2)人工監(jiān)督；(3)向提供者報(bào)告高風(fēng)險(xiǎn)和暫停使用義務(wù)；(4)日志留存；(5)特殊高風(fēng)險(xiǎn)系統(tǒng)的知情同意、報(bào)告等義務(wù)；(6)基本權(quán)與提供者等統(tǒng)一作為受監(jiān)管實(shí)體，但具體和差異化的義務(wù)尚待在具體的生效法案中明確，例如在州法SB205中，已經(jīng)區(qū)分提供者與部署者義務(wù)供應(yīng)鏈安網(wǎng)絡(luò)域風(fēng)險(xiǎn)4.2.2;險(xiǎn)4.2.2防沉迷防范未成年人用戶過度依賴或者沉迷(空)(空)標(biāo)識(shí)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)生成合成音頻、圖像、視頻或文本內(nèi)容的人工智能系統(tǒng)……提供者應(yīng)確保人工智能系統(tǒng)的輸出以機(jī)器可讀的格式進(jìn)行標(biāo)注，并且可檢測(cè)制定標(biāo)注工具和實(shí)踐指南，用以驗(yàn)證合成內(nèi)容和內(nèi)容檢測(cè)，減少合成內(nèi)容混淆事實(shí)、誤導(dǎo)用戶、繞過鑒權(quán)義務(wù)(1)提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳模型優(yōu)化訓(xùn)行整改，并向有關(guān)主管部門報(bào)告；(2